O CEO da DeepMind afirma que uma agência internacional de supervisão deve “avaliar” os modelos avançados de IA antes do lançamento, para que eles sejam aprovados previamente

O CEO da Google DeepMind, Demis Hassabis, apresentou nesta semana uma proposta defendendo um modelo inspirado na FINRA (Autoridade Reguladora do Setor Financeiro dos EUA), com a criação de uma instituição internacional de supervisão liderada por especialistas independentes. A ideia exige que modelos avançados de IA passem por uma revisão obrigatória de até 30 dias antes do lançamento.
(Histórico: se você também tem medo de que a IA acabe com a humanidade, precisa ler este relatório “AI 2040: Plan A”)
(Detalhe de contexto: falta mais uma pessoa no time da segurança: o futurólogo-chefe da OpenAI deixou o cargo, e a equipe de alinhamento de missão também foi dissolvida)

Sumário

Toggle

• Um sinal de alerta para colocar a proposta na mesa mais cedo
• Copiando a tarefa de Wall Street: independente, financiada pela indústria e com possibilidade de atualização
• Todo mundo no setor concorda, mas falta o governo concordar

O CEO da Google DeepMind divulgou nesta semana, em um Substack pessoal, um manifesto intitulado “A Framework for Frontier AI and the Dawning of a New Age”. Nele, defende a criação de um órgão internacional de supervisão independente de governos e empresas, inspirado no modelo da FINRA dos EUA, para fazer uma espécie de “check-up” de pré-lançamento nos modelos de IA mais avançados.

O que ele chama de “modelos de fronteira” é, em termos simples, a mais recente geração de sistemas de IA, com a maior capacidade computacional até o momento, cujos limites de risco ainda não foram totalmente compreendidos. Pela proposta, no futuro, qualquer modelo de fronteira que atenda aos critérios exigidos — independentemente de ser open source ou closed source, e sem levar em conta nacionalidade de pesquisa — terá que passar primeiro por uma submissão para avaliação, com prazo máximo de 30 dias. Além disso, a maioria das cadeiras no conselho seria reservada para especialistas técnicos independentes no nível do Prêmio Turing.

Sam Altman, CEO da OpenAI, chamou a ideia de “muito bem elaborada”, e Musk também disse que é um “ótimo ponto de partida para discussões”. Os dois concorrentes que normalmente não se dão bem, desta vez, raramente ficaram do mesmo lado.

Um sinal de alerta para colocar a proposta na mesa mais cedo

Hassabis vinha maturando essa estrutura há vários meses; o gatilho que o levou a divulgá-la antes foi o modelo Mythos, lançado em quantidade limitada pela Anthropic. Depois que o modelo surgiu em abril deste ano, mostrou uma capacidade de cibersegurança ofensiva e defensiva bem acima do esperado, gerando no setor e nos círculos de políticas a preocupação com “uma nova era de crimes cibernéticos impulsionados por IA”. Hassabis o chamou diretamente de “um sinal de alerta”, alertando que não dá mais para esperar os órgãos reguladores se atualizaram lentamente; ele também planeja ir pessoalmente a Washington na próxima semana para conversar de frente com formuladores de políticas dos EUA sobre essa estrutura. Fica claro que não era só uma intenção de publicar um artigo e encerrar o assunto.

Além do risco de segurança cibernética no momento, Hassabis também mencionou em entrevista outra preocupação de longo prazo: o risco de segurança biológica. Em resumo, é o uso de modelos de IA para ajudar a projetar patógenos, armas biológicas e outras capacidades que ameacem a saúde pública. Ele admitiu: “Por enquanto, os modelos ainda não são fortes a ponto de fazer isso. Mas, se extrapolarmos os avanços atuais, pode aparecer em alguns anos.”

Ao mesmo tempo, a postura do governo dos EUA diante da revisão de novos modelos deixou toda a indústria com os nervos à flor da pele. A Anthropic e a OpenAI já atrasaram, sob pressão do governo Trump, lançamentos mais amplos de seus produtos mais recentes. Esse movimento deixou outros países que dependem da tecnologia dos EUA sem tempo de se preparar e também impulsionou conversas entre a União Europeia e governos dos EUA sobre direitos de acesso aos modelos. E, aproveitando a ocasião da cúpula do G7 em França, executivos de empresas de IA se apressaram para encontrar diretamente líderes de diferentes países e discutir o tema.

Copiando a tarefa de Wall Street: independente, financiada pela indústria e com possibilidade de atualização

O modelo escolhido por Hassabis é a FINRA (Autoridade Reguladora do Setor Financeiro dos EUA). Em termos simples, trata-se de uma entidade de autorregulação financiada pelo próprio setor de corretoras de Wall Street, operando de forma independente, mas que aceita supervisão da Comissão de Valores Mobiliários dos EUA (SEC). Ela audita se instituições financeiras estão seguindo as regras e, quando dá problema, consegue aplicar multas e até suspender operações. A ideia dele é levar a mesma lógica para a IA: a indústria banca, mas o poder de decisão fica nas mãos de pessoas que não pertencem a nenhuma empresa.

Na configuração específica, o novo órgão teria um conselho com maioria de especialistas técnicos independentes. Entre os membros estariam nomes de peso no nível de vencedores do Prêmio Turing. Além disso, haveria assentos reservados para representantes da indústria, do governo e da comunidade open source. O financiamento viria integralmente de laboratórios líderes de IA com fins lucrativos. O objeto da avaliação seriam todos os modelos que atingissem o patamar de fronteira; não importa onde fica a sede da empresa, nem se é open source ou closed source — todos seriam tratados da mesma forma. A revisão teria prazo máximo de 30 dias, e o próprio critério também seria atualizado periodicamente conforme as capacidades dos modelos evoluíssem.

Hassabis enfatizou que a força desse mecanismo poderia ser ajustada para cima conforme a gravidade da situação. No cenário mais extremo, até seria possível coordenar grandes laboratórios para desacelerar o ritmo de pesquisa juntos. O calendário ideal dele é que o órgão comece a operar o mais rápido possível, antes do fim deste ano.

Todo mundo no setor concorda, mas falta o governo concordar

Antes de divulgar publicamente, Hassabis já havia apresentado discretamente o rascunho para praticamente todos os principais laboratórios de IA, incluindo “amigos” mencionados por ele, como o CEO da Anthropic, Dario Amodei.

Amodei já havia sugerido mais cedo que os EUA deveriam criar um órgão especializado semelhante à FAA (Administração Federal de Aviação) para supervisionar a IA, e Altman também já levantou uma iniciativa internacional parecida de supervisão. Em entrevista à Bloomberg, Hassabis disse: “Conversamos muito. Acho que isso está altamente alinhado com as ideias que Dario e Sam vêm propondo. Só precisamos de uma solução concreta, não de um conceito abstrato.”

Como vencedor do Prêmio Nobel e alguém que dedica mais tempo à pesquisa em IA do que a maioria dos concorrentes, Hassabis realmente tem menos inimigos do que Musk ou Altman e é mais fácil construir consenso dentro da própria indústria. Mas um líder do setor de IA, que pediu anonimato, alertou que consenso da indústria não basta: o verdadeiro problema é político. Até agora, o Congresso dos EUA não aprovou nenhuma legislação federal significativa de IA. A postura do governo Trump diante da IA oscila entre permissividade e intervenção. E as rotas regulatórias dos EUA, da União Europeia e da China frequentemente seguem caminhos diferentes. Hassabis, de forma otimista, acredita que o impulso atual pode ser suficiente para levar a iniciativa de verdade até a linha de chegada. Ainda assim, ele entende: “O próximo passo é fazer a implementação de fato acontecer — e não apenas publicar um texto em um blog.”