A rivalidade EUA-China em IA está se intensificando, mas acadêmicos de ambos os países concordam: não deixe a IA ter seu 「momento Chernobyl」.

WIRED foi pessoalmente à conferência anual de IA de Zhongguancun, em Pequim, e a maior conclusão após entrevistar acadêmicos de ponta da China e dos EUA é: os riscos de segurança cibernética da IA de fronteira já são grandes demais para qualquer lado suportar sozinho, e o limite de capacidade dos modelos de código aberto está se aproximando de um ponto crítico perigoso.
(Recapitulação: Anthropic foi "boicotada" pelo governo dos EUA e retirou o modelo Fable; mídia estrangeira aponta três grandes preocupações: pode ajudar a China no código aberto)
(Complemento: Nvidia lança o modelo de código aberto mais poderoso, Nemotron 3 Ultra! Focado em tarefas de agente de IA)

Índice

Toggle

• Uma corrida armamentista de IA, mas que gera dissuasão nuclear
• O limite dos modelos de código aberto está se aproximando de um ponto crítico perigoso
• A China também está fechando as portas silenciosamente

O jornalista da WIRED, Will Knight, foi pessoalmente à conferência organizada pelo Instituto de Inteligência Artificial de Pequim (BAAI), que reuniu tópicos que vão desde autoaperfeiçoamento recursivo, robôs humanoides até segurança quântica. Participantes incluíram o co-inventor da criptografia de chave pública, Whitfield Diffie, e Andrew Barto, que ganhou o Prêmio Turing por pesquisas fundamentais em aprendizado por reforço.

Knight escreveu no artigo que saiu do evento com apenas um pensamento: os EUA e a China precisam deixar de lado a agressividade na competição de IA. A razão não é diplomacia, mas realidade técnica: os riscos de segurança cibernética da IA de fronteira estão se expandindo a uma velocidade que ultrapassa a capacidade de qualquer política nacional acompanhar.

Uma corrida armamentista de IA, mas que gera dissuasão nuclear

O quadro padrão de Washington trata os avanços da China em IA como uma ameaça econômica e de segurança nacional. Os controles de exportação continuam se apertando, restringindo o fluxo de chips avançados e equipamentos de fabricação para a China; em junho deste ano, o governo dos EUA foi além, exigindo que a Anthropic impedisse que estrangeiros acessassem seus dois modelos mais poderosos, Mythos 5 e Fable 5, com base na segurança nacional.

A Anthropic fechou imediatamente esses dois modelos para todos, em parte porque as autoridades temiam que os mecanismos de proteção do Fable 5 fossem quebrados, desbloqueando a capacidade de ataque cibernético do Mythos.

No entanto, esta conferência em Pequim enviou um sinal totalmente diferente: o desenvolvimento excessivamente rápido e descontrolado de IA é um risco tanto para os EUA quanto para a China, não uma vantagem unilateral.

O cientista da computação do MIT, Stephen Casper, falou na conferência por vídeo, citando um estudo que mostra que os benefícios da cooperação internacional em riscos de IA são muito maiores do que os riscos de segurança trazidos pela própria cooperação. Casper disse a Knight: "Quase todos no campo da IA concordam em uma coisa: a IA não precisa de um momento Chernobyl."

Ele apontou que isso é semelhante à lógica contraditória das armas nucleares entre EUA e URSS durante a Guerra Fria, onde ambos os lados expandiam freneticamente seus arsenais enquanto eram forçados a estabelecer mecanismos de controle de crise nuclear. O que mais os preocupa é a crescente força da IA agente; se a capacidade continuar aumentando, qualquer descontrole pode causar destruição em larga escala.

O limite dos modelos de código aberto está se aproximando de um ponto crítico perigoso

Se os riscos de segurança cibernética são um alerta teórico, a expansão da capacidade dos modelos de código aberto é uma mina terrestre visível.

Nos últimos anos, empresas chinesas lideraram no campo de modelos de peso aberto: Kimi da Moonshot AI, Qwen da Alibaba, GLM da Z.ai, têm muitos usuários na comunidade de pesquisa dos EUA. A resposta dos EUA é o Nemotron da Nvidia, tentando reconstruir a competitividade do código aberto.

Mas a análise de especialistas sobre o GLM 5.2 mostra que o modelo mais recente da Z.ai já possui capacidades de agente e programação de nível avançado. A próxima geração de modelos de código aberto pode ter capacidades equivalentes às do Fable ou Mythos.

Lin Yun, professor da Universidade Jiao Tong de Xangai, que pesquisa há muito tempo a interseção entre IA e segurança da informação, disse a Knight que, a curto prazo, os hackers realmente têm vantagem, mas novas defesas, incluindo aplicações de contra-ataque pela própria IA, devem reverter essa situação a médio e longo prazo. A questão central está nos padrões: "Se diferentes países têm compreensões semelhantes dos riscos, é mais fácil estabelecer princípios de segurança e padrões técnicos comuns", disse Yun. "A chave é encontrar áreas compartilhadas que reduzam riscos sistêmicos sem expor detalhes operacionais sensíveis."

Lin Yun também levantou uma questão espinhosa em aberto: como a indústria garante que os modelos de código aberto sejam atualizados continuamente, sem vulnerabilidades de backdoor e em conformidade com os padrões de segurança? Essa questão atualmente não tem resposta.

A China também está fechando as portas silenciosamente

Um detalhe que não deve ser ignorado vem de uma fonte anônima entrevistada por Will Knight: um insider de uma das principais empresas de IA da China, que pediu anonimato por não estar autorizado a falar com a mídia. Ele revelou que preocupações de segurança já são uma das razões pelas quais alguns modelos avançados não são mais de código aberto.

Este é um sinal que vale a pena ler com atenção. As empresas chinesas de IA sempre usaram a postura de código aberto para ganhar influência global, mas se até mesmo os principais players chineses começarem a limitar alguns modelos, a fronteira entre código aberto e fechado está sendo redefinida. Afinal, os controles de exportação regulam o fluxo de poder computacional, mas a difusão da capacidade dos modelos é suave e sem fronteiras. Quando a comunidade de código aberto pode replicar 90% da capacidade dos modelos fechados, e quando os próprios modelos abertos podem se tornar armas cibernéticas, qualquer controle unilateral é apenas um atraso, não uma prevenção.

Os EUA e a China são as principais fontes dos modelos mais avançados atualmente e, portanto, têm a maior responsabilidade nesse risco. Casper disse claramente: "A IA é uma tecnologia global, traz benefícios globais e danos globais, e a tendência de novas capacidades se espalharem pelo mundo é consistente." Não importa quanto tempo dure a disputa entre Pequim e Washington sobre controles de exportação, essa lógica não desaparecerá.