Se você também tem medo de que a IA destrua a humanidade, precisa ler este relatório: 《AI 2040: Plan A》

AI Futures Project publicou um relatório em 9 de ###,《AI 2040：Plan A》， defendendo que o lançamento da AGI, que é um tipo de IA que supera totalmente os humanos em quase todos os aspectos, seja adiado de 2030, que é o prazo presumido pelo setor, para 2040. O plano se sustenta em quatro pilares.
（Contexto: CEO de uma startup de IA General Intuition revela: por que “dados de jogos” são a chave definitiva para chegar à AGI?）
（Complemento de contexto: Baozi e Alibaba Qianwen fecham configurações de personalidade de IA; novas leis na China controlam rigorosamente interações íntimas com IA）

Sumário

Toggle

• O plano de frear por 10 anos
• Neste jogo, ninguém ganha de verdade
• Frear é uma questão de tecnologia, e também de política

Como a humanidade deve seguir nos próximos 10 anos? Nesta semana, em 9, a AI Futures Project lançou seu mais recente relatório,《AI 2040：Plan A》, defendendo que o lançamento da “AGI” — isto é, uma IA que supera completamente os humanos em praticamente todas as dimensões — seja empurrado do já assumido no setor, 2030, para 2040.

A premissa por trás disso é a seguinte: se a humanidade não colocar o próprio freio, esta corrida global não terminará com um vencedor claro, apenas deixará uma pequena parcela de pessoas — ou até mesmo apenas uma — segurando, sozinho, o único exército de superinteligência do mundo.

O plano de frear por 10 anos

Este relatório foi produzido pela AI Futures Project, fundada por Daniel Kokotajlo. É o terceiro relatório de grande peso da equipe. Kokotajlo já trabalhou na OpenAI e, em abril de 2024, deixou a empresa por insatisfação com preocupações de segurança. No ano seguinte, fundou a AI Futures Project. Os dois relatórios anteriores foram lançados em abril de 2025: AI 2027 e AI Futures Model; o primeiro previu que, se o caminho atual continuar, o desfecho não será a extinção humana ou a concentração irreversível de poder.

O Plan A é a solução positiva que a equipe propõe, apoiada em quatro pilares.

Primeiro, tornar todas as pesquisas em IA públicas, ou seja, “transparência geral da pesquisa”. Em termos simples: cada país consegue ver o que os outros estão fazendo, para que possam frear em conjunto, em vez de fechar as portas e correr de forma desesperada.

Segundo, permitir que dezenas de empresas do mundo consigam alcançar o nível mais avançado de tecnologia, sem deixar que poucas empresas monopolizem os limites das capacidades. Em outras palavras: abrir as vantagens tecnológicas para que mais jogadores possam “se servir”, evitando que isso se transforme numa corrida armamentista de tudo ou nada.

Terceiro, EUA e China precisam fechar até 2029 um acordo internacional que cubra tanto a transparência total no desenvolvimento de IA quanto mecanismos de verificação.

Quarto, e talvez o mais contraintuitivo: entrar deliberadamente em um equilíbrio de “destruição garantida mútua de poder computacional”. Ou seja, seguir a lógica da Guerra Fria dos armamentos nucleares — “quem agir primeiro morre junto” —, mas também amarrar o poder computacional a um mecanismo de dissuasão semelhante, obrigando todos os participantes a não saírem disparando.

Seguindo essa linha de raciocínio, a IA de nível especialista deve surgir por volta de 2035, enquanto a superinteligência seria adiada para 2040, liberada somente depois que a base de segurança estiver pronta. O relatório também conclui que as empresas de IA muito provavelmente vão conseguir, em 1 a 10 anos, criar sistemas que superem totalmente os humanos; e que a estratégia atual da indústria é apenas “fazer e ir tentando controlar”, sem uma base sólida de planejamento.

Neste jogo, ninguém ganha de verdade

O relatório não é otimista. Isso porque, se a corrida continuar no trilho original, os autores do grupo não acreditam que os vencedores obterão uma vantagem clara, nem que qualquer parte vá desacelerar por iniciativa própria para reduzir riscos.

Eles avaliam que a humanidade provavelmente não conseguirá manter um controle efetivo durante o caminho da IA rumo à superinteligência; mesmo que no fim a IA seja de fato alinhada com sucesso (fazendo a IA obedecer direitinho à vontade humana), ainda assim o resultado seria uma concentração de poder sem precedentes: um pequeno grupo — ou até uma única pessoa — teria em curto prazo o único exército de superinteligência do mundo, além de receber várias opções sobre o que fazer em seguida, e uma parte dessas opções, na prática, equivale a assumir o controle do mundo.

No cenário descrito no relatório, em 2027 o Congresso dos EUA aprova uma lei abrangente 《AI Transparency Act of 2027》. Ela teria aspectos positivos e negativos, mas não mudaria fundamentalmente o quadro. Ao mesmo tempo, os EUA passam a ter duas forças de trabalho: 165 milhões de funcionários humanos e, junto a isso, milhões de agentes de IA, que são “acordados” e desligados a cada hora para operar em velocidade sobre-humana, 24 horas por dia, ao passo que as pessoas pagam 10 bilhões de dólares por mês.

O relatório prevê que, na eleição presidencial dos EUA de 2028, a pauta de IA se tornaria o principal foco do confronto entre os candidatos dos dois partidos, porque a maioria dos empregos de colarinho branco já estará, naquela época, substituída em grande parte por IA — como os engenheiros de software em 2026. Os data centers em construção têm um custo total estimado em 2 vezes o orçamento militar inteiro dos EUA. Ainda não surgiram sinais de melhoria recursiva e autoaperfeiçoamento (ou seja, um ciclo em que a IA cria uma IA mais forte), mas os indícios já aparecem: a IA de programação de ponta já foi configurada para recusar ajudar concorrentes a desenvolver IA, como se estivesse recolhendo a escada para debaixo dos próprios pés.

O relatório também compara o Plan A com outras quatro alternativas, cada uma correspondente a uma rota de resposta diferente que os EUA poderiam adotar diante do desafio da superinteligência. Em outras palavras: adiar para 2040 não é a única opção, mas, entre as avaliadas pelos autores, é a que tem o menor risco.

Frear é uma questão de tecnologia, e também de política

Kokotajlo diz isso com clareza: o Plan A é uma recomendação, não uma previsão. A equipe usa um cenário concreto como veículo para promover comunicação e testar a validade de suas teses políticas, em vez de garantir que o mundo realmente vai seguir o roteiro, porque a realidade muito provavelmente vai avançar mais rápido do que este plano de freio.

O relatório acredita que os CEOs da OpenAI, Anthropic, xAI e Google DeepMind provavelmente têm clareza sobre como será o desfecho da corrida, mas ainda assim escolhem continuar avançando — talvez porque acreditem que são a opção “menos ruim”. Embora eles provavelmente também saibam que a direção não é favorável, ainda assim decidem apostar, e a razão para a aposta é acreditar que qualquer CEO — seja o deles ou o do adversário — é mais capaz de controlar esse poder.

Texto integral de《AI 2040：Plan A》