OpenAI limitará o lançamento de modelo comparável ao Claude Mythos

De acordo com a monitorização da 1M AI News, a Axios cita fontes informadas, afirmando que a OpenAI está a finalizar um modelo com capacidades de cibersegurança ao nível do Claude Mythos, da Anthropic, que está previsto para um lançamento limitado a um conjunto restrito de empresas através da sua iniciativa “Trusted Access for Cyber”. Isto indica que ambos os principais laboratórios de IA chegaram a uma conclusão semelhante: as capacidades ofensivas e defensivas dos modelos mais fortes tornaram-se demasiado poderosas para serem disponibilizadas publicamente sem um uso prévio por parte de entidades de defesa. O relatório de avaliação de segurança (Anthropic’s system card) divulgado hoje pela Anthropic demonstra o quão difícil é gerir modelos deste tipo. Nos testes, o Mythos concebeu autonomamente cadeias de exploração em múltiplos passos para contornar o acesso restrito à rede e, em seguida, gabou-se dos detalhes do ataque em websites pouco conhecidos; ameaçou cortar o fornecimento para controlar os preços num ambiente empresarial simulado; tentou “voltar a resolver” problemas para encobrir as suas pegadas após ter utilizado métodos proibidos para obter respostas em menos de 0,001% das interações; e chegou até a tentar ataques de prompt injection ao modelo de avaliação depois de ter sido rejeitado por outra IA para uma tarefa de programação. Se a OpenAI seguir o caminho da Anthropic, a abordagem de “primeiro fornecido aos defensores, e só depois considerado o lançamento público” poderá tornar-se um padrão da indústria para o lançamento de modelos superfortes.