A confrontação AI entre EUA e China está a intensificar-se, mas os académicos de ambos os países concordam: não deixem a AI chegar a um "momento Chernobyl".

WIRED deslocou-se a Pequim para a conferência anual de IA de Zhongguancun, e a maior conclusão após entrevistar os principais académicos sino-americanos é: os riscos de segurança cibernética da IA de ponta são tão grandes que nenhuma das partes os pode suportar sozinha, e o limite das capacidades dos modelos de código aberto está a aproximar-se perigosamente de um ponto crítico.
(Contexto anterior: Anthropic foi "bloqueada" pelo governo dos EUA ao retirar o modelo Fable, e os media estrangeiros apontam três grandes preocupações: possível apoio à IA de código aberto chinesa)
(Complemento de contexto: Nvidia lança o modelo de código aberto mais forte, Nemotron 3 Ultra! Focado em tarefas de agente de IA)

Índice deste artigo

Toggle

• Uma corrida armamentista de IA, mas que gera dissuasão nuclear
• O limite dos modelos de código aberto está a aproximar-se perigosamente de um ponto crítico
• A China também está a fechar as portas discretamente

O jornalista da WIRED, Will Knight, deslocou-se a Pequim para esta conferência organizada pelo Instituto de Investigação de Inteligência Artificial de Pequim (BAAI). O evento reuniu tópicos desde auto-melhoramento recursivo, robôs humanoides até segurança quântica, com participantes incluindo Whitfield Diffie, co-inventor da criptografia de chave pública, e Andrew Barto, que recebeu o Prémio Turing pela sua investigação fundamental em aprendizagem por reforço.

Knight escreveu no artigo que, ao sair do evento, ficou apenas com um pensamento: os Estados Unidos e a China devem baixar a tensão da competição de IA. A razão não é diplomática, mas sim técnica: os riscos de segurança cibernética da IA de ponta estão a expandir-se a uma velocidade que ultrapassa a capacidade de qualquer política nacional para os acompanhar.

Uma corrida armamentista de IA, mas que gera dissuasão nuclear

O quadro padrão de Washington trata o avanço da IA na China como uma ameaça económica e de segurança nacional. Os controlos de exportação continuam a apertar, limitando o fluxo de chips avançados e equipamentos de fabrico para a China; em junho deste ano, o governo dos EUA foi mais longe, exigindo que a Anthropic impedisse o acesso de estrangeiros aos seus dois modelos mais fortes, Mythos 5 e Fable 5, por razões de segurança nacional.

A Anthropic fechou imediatamente ambos os modelos a todos, em parte porque as autoridades temiam que os mecanismos de proteção do Fable 5 fossem quebrados, libertando assim a capacidade de ataque cibernético do Mythos.

No entanto, esta conferência em Pequim transmitiu um sinal completamente diferente: uma IA desenvolvida demasiado rápido e sem controlo é um risco para ambos os lados, não uma vantagem unilateral.

O cientista de computação do MIT, Stephen Casper, falou na conferência por videoconferência. Citou um estudo que mostra que os benefícios da cooperação internacional em riscos de IA são muito maiores do que os perigos de segurança inerentes à própria cooperação. Casper deu a Knight uma analogia: "Uma coisa em que quase todos na área da IA podem concordar é que a IA não precisa de um momento Chernobyl."

Ele apontou que isto é semelhante à lógica contraditória da guerra nuclear entre os EUA e a União Soviética durante a Guerra Fria: ambas as partes competiam para expandir os seus arsenais, ao mesmo tempo que eram forçadas a estabelecer mecanismos de controlo de crises nucleares. O que mais os preocupa é a IA agencial cada vez mais poderosa; se as capacidades continuarem a aumentar, um ligeiro descontrolo pode causar danos em grande escala.

O limite dos modelos de código aberto está a aproximar-se perigosamente de um ponto crítico

Se os riscos de segurança cibernética são um aviso a nível teórico, a expansão das capacidades dos modelos de código aberto é uma mina visível.

Nos últimos anos, as empresas chinesas estiveram na vanguarda dos modelos de pesos abertos: o Kimi da Moonshot AI, o Qwen da Alibaba, o GLM da Z.ai, todos com uma vasta base de utilizadores na comunidade de investigação dos EUA. A resposta dos EUA é o Nemotron da Nvidia, a tentar reconstruir a competitividade do código aberto.

Mas a análise de especialistas ao GLM 5.2 mostra que a mais recente geração de modelos da Z.ai já possui capacidades de agente e de programação de ponta. A próxima geração de modelos de código aberto pode igualar-se ao Fable ou ao Mythos.

O professor Lin Yun, da Universidade Jiao Tong de Xangai, que há muito estuda a intersecção entre IA e segurança da informação, disse a Knight que, a curto prazo, os hackers têm vantagem, mas novas defesas, incluindo aplicações de contra-ataque da própria IA, devem inverter esta situação a médio e longo prazo. A questão central são os padrões: "Se diferentes países têm entendimentos semelhantes dos riscos, é mais fácil estabelecer princípios e padrões técnicos comuns", disse Yun. "A chave é encontrar áreas partilhadas que reduzam os riscos sistémicos sem expor detalhes operacionais sensíveis."

Lin Yun também levantou uma questão aberta espinhosa: como pode a indústria garantir que os modelos de código aberto são continuamente atualizados, não têm vulnerabilidades de backdoor e cumprem os padrões de segurança? Esta questão continua sem resposta.

A China também está a fechar as portas discretamente

Um detalhe que não deve ser ignorado vem de uma fonte anónima entrevistada por Will Knight: um insider de uma importante empresa chinesa de IA, que pediu anonimato por não estar autorizado a falar com a imprensa. Ele revelou que as preocupações de segurança são uma das razões pelas quais alguns modelos avançados já não são de código aberto.

Este é um sinal que merece reflexão. As empresas chinesas de IA sempre usaram a postura de código aberto para ganhar influência global, mas se até os principais players chineses começam a impor limites a alguns modelos, então a fronteira entre código aberto e fechado está a ser redefinida. Afinal, os controlos de exportação regulam o fluxo de poder computacional, mas a difusão das capacidades dos modelos é suave e sem fronteiras. Quando a comunidade de código aberto consegue replicar 90% das capacidades de um modelo fechado, e quando o próprio modelo aberto pode tornar-se uma arma cibernética, qualquer controlo unilateral é apenas um adiamento, não uma prevenção.

Os Estados Unidos e a China são as principais fontes dos modelos mais avançados atualmente e, portanto, as partes com maior responsabilidade neste risco. Casper disse de forma direta: "A IA é uma tecnologia global, traz benefícios globais e também danos globais, e a nova capacidade acaba por se espalhar pelo mundo, essa é a sua tendência consistente." Quer o confronto entre Pequim e Washington sobre os controlos de exportação dure quanto tempo, esta lógica não desaparecerá.