O CEO da DeepMind defende que a criação de uma autoridade reguladora internacional deve «analisar» os modelos de IA de ponta, devendo estes passar antes de serem listados

O CEO da Google DeepMind, Demis Hassabis, apresentou uma proposta esta semana, defendendo que se replique o modelo da Autoridade Reguladora do Setor Financeiro dos EUA (FINRA), criando uma entidade internacional de supervisão liderada por peritos independentes, exigindo que os modelos de IA de ponta sejam sujeitos a uma revisão obrigatória de até 30 dias antes do lançamento.
(Antecedentes: se também temes que a IA possa destruir a humanidade, tem de ler este relatório 《AI 2040：Plan A》)
(Suplemento de contexto: falta mais um na ala da segurança: o Chief Futurist da OpenAI saiu, e a equipa de alinhamento da missão também já se dissolveu)

Índice do artigo

Toggle

• Um aviso para colocar a proposta na mesa mais cedo
• Copiar os trabalhos de casa de Wall Street: independente, financiado pela indústria, e atualizável
• A indústria já acena com a cabeça; o que é difícil é o governo acenar com a cabeça

O CEO da Google DeepMind publicou esta semana, no seu Substack pessoal, um manifesto intitulado 《A Framework for Frontier AI and the Dawning of a New Age》, defendendo a criação de uma entidade internacional de supervisão independente de governos e empresas, inspirada no modelo da Autoridade Reguladora do Setor Financeiro dos EUA (FINRA), para fazer uma espécie de inspeção pré-listagem dos modelos de IA mais avançados.

“Modelos de ponta”, como ele os chama, em termos simples são os sistemas de IA da geração mais recente, com a maior capacidade de computação atualmente, e cujos limites de risco ainda não foram totalmente compreendidos. De acordo com a proposta, no futuro, todos os modelos de ponta que cumpram os critérios terão de ser submetidos a avaliação antes de serem colocados no mercado, independentemente de serem open source ou fechados, e independentemente da nacionalidade de quem os desenvolve; a revisão pode durar no máximo 30 dias, e a maioria dos lugares no conselho será reservada para especialistas técnicos independentes no nível de prémio Turing, entre outros.

O CEO da OpenAI, Sam Altman, descreveu esta ideia como “muito abrangente”, e Musk também disse que é um “excelente ponto de partida para uma discussão”. Os dois, concorrentes que normalmente não se dão bem, desta vez raramente ficam do mesmo lado.

Um aviso para colocar a proposta na mesa mais cedo

Hassabis vem a maturar este enquadramento há vários meses; o gatilho que o levou a divulgá-lo antes do previsto foi o modelo Mythos, de lançamento limitado, da Anthropic. Depois de ter surgido em abril deste ano, o modelo demonstrou capacidades de defesa e ataque em cibersegurança muito acima das expectativas, o que gerou na indústria e nos círculos de políticas a preocupação com “uma nova era de criminalidade informática impulsionada por IA”. Hassabis chamou-lhe diretamente um “aviso”, alertando que não se pode continuar a esperar que as entidades reguladoras avancem lentamente; ele também prevê viajar pessoalmente para Washington na próxima semana para conversar com decisores políticos dos EUA sobre este quadro, deixando claro que não tem apenas intenção de publicar um artigo e encerrar o assunto.

Além dos riscos imediatos em cibersegurança, Hassabis mencionou, numa entrevista, outra preocupação mais a longo prazo: o risco de biosegurança. Em termos simples, trata-se de usar modelos de IA para ajudar a conceber agentes patogénicos, armas biológicas e outras capacidades que ponham em risco a saúde pública. Ele reconheceu: “Atualmente, os modelos ainda não estão suficientemente fortes para chegar a esse ponto, mas, se extrapolarmos os progressos atuais, em alguns anos pode vir a acontecer.”

Ao mesmo tempo, a postura do governo dos EUA face à revisão de novos modelos tem deixado toda a indústria em tensão. A Anthropic e a OpenAI já adiaram o lançamento em larga escala dos seus produtos mais recentes sob pressão do governo de Trump. Esse movimento deixou outros países que dependem da tecnologia dos EUA apanhados de surpresa, e levou a negociações entre a União Europeia e os governos dos EUA sobre os direitos de acesso aos modelos; enquanto isso, os CEOs das empresas de IA aproveitaram o contexto da cimeira do G7 em França para se encontrarem diretamente com líderes de vários países e discutirem o assunto.

Copiar os trabalhos de casa de Wall Street: independente, financiado pela indústria, e atualizável

O referente escolhido por Hassabis é a FINRA. Em termos simples, trata-se de uma entidade de autorregulação que é financiada e mantida pelos próprios corretores de Wall Street, funcionando de forma independente, mas sujeita à supervisão da Comissão de Valores Mobiliários dos EUA (SEC). A sua função é verificar se as instituições financeiras cumprem as regras; quando algo corre mal, pode aplicar multas e sanções como suspensão de atividade. Ele quer aplicar a mesma lógica à IA: a indústria paga, mas o poder de decisão fica com pessoas que não pertencem a nenhuma empresa.

Em termos concretos, o novo organismo terá um conselho com maioria de especialistas técnicos independentes; os membros incluirão figuras de peso ao nível de premiados com o prémio Turing. Além disso, serão reservados lugares para representantes da indústria, do governo e da comunidade open source. O financiamento provirá de laboratórios de IA de topo orientados para o lucro. Os alvos da revisão serão todos os modelos que atinjam a barreira de “ponta”; quer a sede das empresas esteja onde estiver, quer sejam open source ou fechados, terão tratamento equivalente. A revisão terá no máximo 30 dias, e o próprio critério será atualizado periodicamente à medida que as capacidades dos modelos evoluírem.

Hassabis sublinha que a força deste mecanismo pode ser ajustada consoante a gravidade da situação; no caso mais extremo, pode até coordenar vários laboratórios para abrandar em conjunto o ritmo do desenvolvimento. O calendário que ele idealiza é que este organismo comece a funcionar o mais cedo possível até ao fim deste ano.

A indústria já acena com a cabeça; o que é difícil é o governo acenar com a cabeça

Antes da publicação pública, Hassabis já tinha apresentado o rascunho a praticamente todos os principais laboratórios de IA, de forma privada, incluindo pessoas “amigas” que ele refere, como Dario Amodei, CEO da Anthropic.

Amodei tinha sugerido pouco antes que os EUA deveriam criar uma entidade especializada semelhante à Administração Federal de Aviação (FAA) para supervisionar a IA, e Altman também já tinha levantado uma iniciativa internacional semelhante de supervisão. Numa entrevista à Bloomberg, Hassabis disse: “Conversámos muito; creio que isto está altamente alinhado com as ideias que o Dario e o Sam têm defendido há muito tempo. Só que precisamos de um plano concreto, e não de conceitos abstratos.”

Sendo um laureado com o Prémio Nobel, com mais tempo de dedicação à investigação em IA do que a maioria dos seus pares, Hassabis tem efetivamente menos inimigos do que Musk ou Altman e, por isso, é mais fácil reunir consenso dentro da indústria. Ainda assim, um líder da indústria de IA, que não quis ser identificado, lembra que o consenso da indústria sozinho não chega; o verdadeiro problema está na política: até agora, o Congresso dos EUA não aprovou qualquer legislação federal de IA verdadeiramente significativa. A postura do governo de Trump em relação à IA tem oscilado entre tolerar e intervir, e as rotas de regulação entre EUA, União Europeia e China também muitas vezes divergem entre si. Hassabis é otimista, acreditando que a dinâmica atual pode ser suficiente para levar este assunto verdadeiramente até à linha de chegada. Mas também sabe: “O que vem a seguir é fazer com que isso seja realmente implementado, e não apenas publicar um post num blogue.”