Especialista em segurança: Modelos de IA tão perigosos quanto o Claude Mythos simplesmente não podem ser detidos, estarão por toda parte em 24 meses

O governo de Trump na semana passada, sob o pretexto de segurança nacional, obrigou a Anthropic a retirar os dois modelos mais avançados, Claude Fable 5 e Mythos 5. A justificativa foi que eles poderiam ser "hackeados". No entanto, especialistas em segurança cibernética desconsideraram a medida, afirmando que essa restrição é apenas uma de uma empresa e de alguns modelos; nos próximos 6 a 24 meses, capacidades semelhantes estarão amplamente disponíveis de várias fontes.
(Resumindo: gastando muito para crescer! Arquivos vazados da OpenAI revelam que "operações tiveram prejuízo de 209 bilhões de dólares", e que só terão lucro em 2030)
(Complemento de contexto: CZ elogiou Hyperliquid como uma invenção excelente! Mas brincou que sem KYC é muito perigoso: "Já passei por isso, eles precisam de advogados supercompetentes")

No final de semana passado, o governo de Trump, alegando risco à segurança nacional, obrigou a retirada de dois modelos mais recentes da Anthropic: Claude Fable 5 e Mythos 5. A lógica da Casa Branca foi: Fable 5 está disponível ao público, mas seu mecanismo de proteção (basicamente, o sistema de segurança que impede o modelo de responder a perguntas prejudiciais) pode ser desativado, o que foi considerado um risco à segurança nacional.

A Anthropic ainda está negociando com a Casa Branca as condições para relançar os modelos, e ainda não há uma data definida para o retorno.

Essa é uma espada de dois gumes, a própria Anthropic sabe disso

Mythos 5 não é um modelo de linguagem comum. Desde que a Anthropic lançou oficialmente o Mythos Preview em abril, a empresa tem alertado sobre seus riscos. Em resumo, para pesquisadores de segurança, ele é uma ferramenta de defesa, mas nas mãos de atores mal-intencionados, pode se tornar uma arma de ataque.

Por isso, inicialmente, Mythos 5 foi disponibilizado apenas de forma privada para um grupo seleto do projeto Glasswing; enquanto Fable 5, embora acessível ao público geral, possui restrições específicas relacionadas a questões biológicas e de segurança cibernética.

6 meses vs 24 meses

Apesar da ordem do governo de Trump de bloquear os modelos, o responsável pela equipe de elite de segurança da Anthropic, Logan Graham, deixou claro em abril, na época do lançamento do Mythos Preview, ao Wired:

"A mensagem real é que isso não é sobre o modelo ou a Anthropic. Precisamos nos preparar agora para um mundo onde, em 6, 12 ou 24 meses, essas capacidades estarão amplamente disponíveis."

O diretor de segurança da empresa de consultoria em segurança TPO Group, Tarah Wheeler, foi ainda mais direto:

"Pensar que não há outros concorrentes desenvolvendo capacidades semelhantes às do Mythos, ou achar que eles ainda não chegaram lá, é extremamente míope. Outras empresas estão perseguindo a Anthropic de perto, e provavelmente também possuem essas capacidades, apenas aguardando para ver como a regulação atual irá tratá-las."

Bruce Schneier, pesquisador da Harvard University, também comentou ao Wired:

"Essa é uma tendência geral na tecnologia. Modelos menores, mais baratos e de código aberto, às vezes isolados, às vezes colaborando entre si, podem, com prompts mais sofisticados, alcançar o desempenho do Mythos. Devemos esperar que outros modelos, em poucos meses, possam igualar a criatividade e a resiliência do Mythos/Fable, e modelos de código aberto um pouco mais tarde."