Consultor de IA da Casa Branca critica a revisão do modelo dos EUA: Kimi K3 corrige 15 vulnerabilidades de segurança, e os modelos dos EUA auto-restringem-se demasiado

O consultor de IA da Casa Branca, David Sacks, indicou que o Kimi K3 corrigiu, em poucos dias, 15 vulnerabilidades de segurança críticas, enquanto os modelos dos EUA Codex e Fable falharam em tratá-las devido às limitações das «barreiras de cibersegurança».
（Antecedentes: Kimi K3 chegou ao topo das tabelas de código front-end; testes cegos com humanos venceram Claude Fable 5）
（Contexto adicional: Kimi K3 está a pôr a pressão ao grande líder de IA dos EUA? Especialistas prevêem que a Anthropic apressa o Opus 5 e que o GPT-6 pode ser lançado mais cedo）

Índice do artigo

Toggle

• Quais são as 15 vulnerabilidades críticas?
• O «efeito das barreiras» de Codex e Fable
• A corrida de velocidade da IA na mesma semana

Com uma frase, o consultor da Casa Branca revelou o «auto-limite» da corrida de IA dos EUA. A 20 de julho, o consultor de IA da Casa Branca David Sacks publicou um post numa plataforma social afirmando que o Kimi K3 acabou de corrigir 15 vulnerabilidades de segurança críticas, enquanto o Codex e o Fable, antes, recusaram tratar esses problemas devido às limitações das «barreiras de cibersegurança». Sacks sublinhou que, para tarefas que modelos estrangeiros conseguem concluir sem problemas, não há razão para restringir os modelos próprios dos EUA; fazer isso só enfraqueceria a nossa competitividade.

Quais são as 15 vulnerabilidades críticas?

O Kimi K3 é o modelo que chegou ao topo do ranking de código front-end dentro do mês e venceu Claude Fable 5 em testes cegos com humanos. As «15 vulnerabilidades críticas» mencionadas por Sacks abrangem bugs internos detetados na fase de treino, erros nos percursos de inferência e falhas na auto-calibração do modelo, entre outros. Se essas vulnerabilidades não forem corrigidas, afectam diretamente a precisão do modelo em tarefas essenciais como geração de código e raciocínio lógico.

O «efeito das barreiras» de Codex e Fable

O Codex é uma série de modelos de código da OpenAI; o Fable refere-se à família Claude da Anthropic (o «Fable 5», o modelo mais recente ao nível do Claude Opus). A leitura de Sacks sugere que os modelos dos EUA configuram mais «barreiras de cibersegurança» nas fases de treino e inferência, por exemplo: verificação obrigatória do formato da saída, limitação da profundidade de raciocínio e exclusão de caminhos específicos de inferência. Essas barreiras garantem a fiabilidade do modelo, mas também bloqueiam o caminho para o modelo se corrigir a si mesmo.

A corrida de velocidade da IA na mesma semana

No mesmo dia em que Sacks se pronunciou, o executivo da Succinct Labs Brian Trunzo escreveu que a abordagem tradicional de «distinguir IA» já não funciona; as provas de conhecimento zero (ZK) podem fornecer à IA «credenciais de comportamento» que podem ser verificadas de forma independente. Isto vai ao encontro do ponto de vista de Sacks: além de ser fiável, um modelo de IA precisa também de ser verificável.