Especialista em segurança: Modelos de IA tão perigosos quanto Claude Mythos simplesmente não podem ser contidos, estarão por toda parte em 24 meses

O governo de Trump na semana passada, sob o pretexto de segurança nacional, obrigou a Anthropic a remover os dois modelos mais avançados, Claude Fable 5 e Mythos 5. A justificativa foi que eles poderiam ser "quebrados". No entanto, especialistas em segurança cibernética desacreditaram, afirmando que essa restrição é apenas uma de uma empresa, de um grupo de modelos; nos próximos 6 a 24 meses, capacidades semelhantes estarão amplamente disponíveis de várias fontes.
(Resumindo: gastando dinheiro para crescer! Arquivos vazados da OpenAI revelam que "operações tiveram prejuízo de 209 bilhões de dólares", e espera-se que só em 2030 haja lucro)
(Complemento de contexto: CZ elogiou Hyperliquid como uma invenção excelente! Mas brincou que sem KYC é muito perigoso: já passei por isso, eles precisam de advogados super fortes)

No final de semana passado, o governo de Trump, alegando risco à segurança nacional, obrigou a remover dois modelos mais recentes da Anthropic: Claude Fable 5 e Mythos 5. A lógica da Casa Branca foi: Fable 5 está disponível ao público, mas sua barreira de proteção (simplificando, o mecanismo de segurança que impede o modelo de responder a perguntas prejudiciais) pode ser desativada, o que foi considerado um risco à segurança nacional.

A Anthropic ainda está negociando com a Casa Branca as condições para relançar os modelos, e ainda não está claro quando eles voltarão a estar disponíveis.

Essa é uma espada de dois gumes, a própria Anthropic também sabe disso

Mythos 5 não é um modelo de linguagem comum. Desde que a Anthropic lançou oficialmente o Mythos Preview em abril, a empresa tem alertado sobre seus riscos. Em resumo, para pesquisadores de segurança, é uma ferramenta de defesa nas mãos de especialistas, mas pode se tornar uma arma de ataque nas mãos de atores mal-intencionados.

Por isso, inicialmente, Mythos 5 foi lançado apenas para um grupo seleto de aliados do projeto Glasswing; enquanto Fable 5, embora acessível ao público geral, possui bloqueios específicos relacionados a questões biológicas e de segurança cibernética.

6 meses vs 24 meses

Apesar da ordem do governo de Trump de bloquear o acesso, o ex-líder da equipe de elite da Anthropic, Logan Graham, deixou claro para a WIRED em abril, quando Mythos Preview foi lançado:

"A mensagem real é que isso não é sobre esse modelo ou a Anthropic. Precisamos nos preparar agora para um mundo onde, em 6, 12 ou 24 meses, essas capacidades estarão amplamente disponíveis."

O diretor de segurança da empresa de consultoria em segurança TPO Group, Tarah Wheeler, foi mais direto:

"Pensar que nenhum outro competidor desenvolverá capacidades semelhantes às do Mythos, ou que eles ainda não fizeram isso, é extremamente míope. Outras empresas estão perseguindo a Anthropic de perto, e provavelmente também possuem essas capacidades, apenas esperando para ver como a regulação atual irá tratá-las."

Bruce Schneier, pesquisador da Harvard, também comentou à WIRED: "Essa é uma tendência geral na tecnologia. Modelos menores, mais baratos, de código aberto, às vezes isolados, às vezes colaborando entre si, podem, com prompts mais sofisticados, alcançar o desempenho do Mythos. Devemos esperar que outros modelos em poucos meses possam igualar a criatividade e resiliência do Mythos/Fable, e modelos de código aberto um pouco mais tarde."