O chefe da DeepMind propôs verificar modelos avançados de IA antes do lançamento - ForkLog

# O chefe do DeepMind propôs que os modelos avançados de IA sejam verificados antes do lançamento

O chefe da Google DeepMind, Demis Hassabis, propôs criar nos EUA um órgão de padrões para verificar as mais poderosas IAs antes da sua disponibilização. Em sua avaliação, a inteligência artificial geral (AGI) pode surgir “em alguns anos”, e seu impacto seria comparável à descoberta da eletricidade ou do fogo.

https://t.co/PTeDiv1b6L

— Demis Hassabis (@demishassabis) 14 de julho de 2026

Por AGI, Hassabis entende um sistema que possui todas as capacidades cognitivas do cérebro humano. Em sua visão, essa tecnologia não pode ser comparada nem mesmo à internet ou à telefonia móvel.

«Quando olhamos para este período nas próximas décadas, acho que entenderemos que estávamos no sopé da singularidade — o começo de uma nova era para a humanidade», escreveu Hassabis.

O chefe do DeepMind acredita que a AGI conseguirá acelerar o desenvolvimento de medicamentos, novas fontes de energia limpa e materiais avançados. Ao mesmo tempo, as capacidades da IA evoluem mais rápido do que a compreensão dos riscos associados, afirmou ele.

Modelos avançados atuais já criam ameaças no campo da cibersegurança. À medida que suas capacidades aumentam, podem se intensificar riscos biológicos, nucleares e outros. Hassabis também alertou sobre o surgimento de sistemas mais autônomos, capazes de executar sequências complexas de ações e se aprimorar recursivamente. Para manter o controle sobre eles, serão necessárias medidas técnicas adicionais de proteção.

Um novo órgão vai definir os modelos avançados

Hassabis propôs criar o Frontier AI Standards Body nos moldes da FINRA. A nova estrutura pode funcionar como uma parceria entre governo e setor privado ou como uma organização autorreguladora com supervisão federal. Ela deve ser financiada principalmente pela indústria de IA.

A liderança é proposta para incluir especialistas técnicos independentes e representantes da comunidade de código aberto. O órgão vai desenvolver protocolos de avaliação em conjunto com órgãos federais e laboratórios nacionais dos EUA.

Testes específicos devem determinar se o modelo se enquadra na categoria de avançado. Os testes abrangerão cibersegurança, ameaças biológicas e outras áreas de risco elevado. Verificações separadas vão identificar tentativas dos modelos de contornar limitações de proteção, enganar usuários ou ocultar suas ações.

A verificação pode virar obrigatória

Na primeira etapa, as empresas vão enviar voluntariamente os modelos avançados para avaliação com antecedência de no máximo 30 dias antes do lançamento.

Após confirmar a eficácia do sistema, o procedimento pode ser incorporado por lei. Nesse caso, os modelos avançados terão de passar com sucesso por uma avaliação antes de serem lançados no mercado americano. Hassabis também sugeriu criar um mercado de auditores independentes e usar o sistema americano como base para futuros padrões internacionais.

Em junho, o presidente dos EUA, Donald Trump, assinou um decreto sobre a verificação voluntária das capacidades de cibersegurança de modelos avançados de IA. As empresas poderão fornecer às autoridades acesso a essas capacidades por até 30 dias antes de repassá-las a parceiros externos confiáveis. O documento proíbe explicitamente tratar esse mecanismo como licenciamento obrigatório ou como obtenção de autorização prévia para o lançamento dos modelos.

No próprio ensaio, Hassabis reconheceu que o desenvolvimento adicional da tecnologia permanece incerto e que até especialistas divergem.

Antes, a imprensa informou que a administração Trump pediu à OpenAI para não lançar o GPT-5.6 de uma vez em acesso amplo, por preocupações relacionadas à segurança. A empresa de Sam Altman inicialmente disponibilizou o modelo para um número limitado de clientes.

Em julho, o secretário-geral da ONU, António Guterres, pediu a criação de regras gerais para sistemas avançados de IA, a proteção das crianças contra os riscos de chatbots, a proibição de sistemas letais autônomos de armas e a ampliação do acesso dos países em desenvolvimento a recursos computacionais.

Vale lembrar: em julho, participantes de um protesto em São Francisco exigiram da OpenAI, Anthropic e Google DeepMind que suspendessem de forma coordenada o treinamento de modelos mais potentes. Os recursos liberados, eles propuseram, devem ser direcionados para segurança.

No mesmo mês, o ex-pesquisador da OpenAI, Daniel Kokotajlo, propôs desacelerar a corrida da IA até 2040.