A DeepMind propôs verificar as modelos de IA de ponta antes do lançamento - ForkLog

# O chefe da DeepMind propôs verificar os modelos de IA de ponta antes do lançamento

O chefe da Google DeepMind, Demis Hassabis, propôs criar nos EUA um órgão de normas para testar as IA mais poderosas antes de serem colocadas no mercado. Na sua avaliação, a inteligência artificial geral (AGI) poderá surgir «em alguns anos», e o seu impacto deverá ser comparável ao da descoberta da eletricidade ou do fogo.

https://t.co/PTeDiv1b6L

— Demis Hassabis (@demishassabis) July 14, 2026

Por AGI, Hassabis entende um sistema que possui todas as capacidades cognitivas do cérebro humano. Na sua opinião, tal tecnologia não pode sequer ser comparada com a Internet ou com a ligação móvel.

«Quando olharmos para este período nas próximas décadas, acho que vamos perceber que estivemos à beira da singularidade — nada menos do que o início de uma nova era para a humanidade», escreveu Hassabis.

O chefe da DeepMind considera que a AGI conseguirá acelerar o desenvolvimento de medicamentos, novas fontes de energia limpa e materiais avançados. Ao mesmo tempo, as capacidades da IA estão a evoluir mais depressa do que a compreensão dos riscos associados, assinalou.

Os modelos avançados atuais já criam ameaças no domínio da cibersegurança. À medida que as suas capacidades aumentem, os riscos biológicos, nucleares e outros poderão intensificar-se. Hassabis também alertou para o surgimento de sistemas mais autónomos, capazes de executar sequências complexas de ações e de melhorar recursivamente. Para manter o controlo sobre eles, serão necessárias medidas técnicas adicionais de proteção.

Novo órgão vai definir os modelos de ponta

Hassabis propôs criar o Frontier AI Standards Body, à semelhança da FINRA. A nova estrutura pode funcionar como uma parceria público-privada ou como uma organização autorregulada com supervisão federal. O seu financiamento deve ser sobretudo suportado pela indústria de IA.

No conselho proposto deverá incluir-se especialistas técnicos independentes e representantes da comunidade de código aberto. O órgão vai desenvolver protocolos de avaliação em conjunto com organismos federais e laboratórios nacionais dos EUA.

Testes específicos devem determinar se o modelo pertence à classe de ponta. Os ensaios abrangerão a cibersegurança, ameaças biológicas e outras áreas de risco elevado. Verificações separadas vão identificar tentativas dos modelos para contornar limitações de proteção, induzir os utilizadores em erro ou ocultar as suas ações.

A verificação pode tornar-se obrigatória

Numa primeira fase, as empresas vão submeter voluntariamente os modelos de ponta para avaliação, não mais tarde do que 30 dias antes do lançamento.

Após a confirmação da eficácia do sistema, o procedimento poderá ser consagrado por lei. Assim, os modelos de ponta terão de ser avaliados com sucesso antes de serem lançados no mercado norte-americano. Hassabis também propôs criar um mercado de auditores independentes e usar o sistema norte-americano como base para futuros padrões internacionais.

Em junho, o presidente dos EUA, Donald Trump, assinou uma ordem sobre a verificação voluntária das capacidades de cibersegurança dos modelos avançados de IA. As empresas poderão disponibilizar às autoridades acesso a eles por um período até 30 dias antes de os transferirem para parceiros externos de confiança. O documento proíbe expressamente interpretar este mecanismo como licenciamento obrigatório ou como a obtenção de autorização prévia para lançar modelos.

No próprio ensaio, Hassabis reconheceu que o desenvolvimento adicional da tecnologia permanece incerto e até os especialistas discordam entre si.

Antes, a comunicação social tinha noticiado que a administração Trump pediu à OpenAI que não disponibilizasse o GPT-5.6 imediatamente ao grande público devido a preocupações relacionadas com segurança. A empresa de Sam Altman disponibilizou inicialmente o modelo para um número limitado de clientes.

Em julho, o secretário-geral da ONU, António Guterres, apelou à criação de regras comuns para sistemas avançados de IA, para proteger as crianças dos riscos associados a chatbots, para proibir sistemas letais autónomos de armas e para alargar o acesso dos países em desenvolvimento aos recursos informáticos.

Recorde-se que, em julho, os participantes da marcha em São Francisco exigiram da OpenAI, Anthropic e Google DeepMind uma suspensão coordenada do treino de modelos mais poderosos. Os recursos libertados propuseram direcioná-los para a segurança.

No mesmo mês, o antigo investigador da OpenAI Daniel Kokotajlo propôs abrandar a corrida da IA até 2040.