Anthropic investigador de segurança Nicolas Carlini, cujos artigos foram citados 67.200 vezes no Google Scholar, é um dos profissionais mais citados nesta área.

Recentemente, ele afirmou publicamente: Claude é um investigador de segurança mais talentoso do que ele.
Ele apontou Claude para Ghost (uma plataforma de publicação com 50.000 estrelas no GitHub, que nunca apresentou vulnerabilidades graves na sua história) por 90 minutos, e Claude encontrou uma vulnerabilidade de injeção SQL que permite a qualquer pessoa, sem precisar de permissões, obter a chave de administrador e assumir o controlo completo do backend.
Depois, ele apontou Claude para o núcleo Linux. Claude descobriu uma vulnerabilidade de estouro de buffer, uma falha que estava escondida desde 2003 e que permaneceu por 23 anos. Carlini afirmou que esse tipo de vulnerabilidade, mesmo para especialistas experientes em segurança, é extremamente difícil de detectar manualmente.
Nos testes com contratos inteligentes, Claude identificou vulnerabilidades exploráveis no valor de aproximadamente 3,7 milhões de dólares em um ambiente simulado.
Carlini disse que, nessas tarefas, ele mesmo não consegue alcançar o nível do Claude.
A parte mais difícil dessa história não é o AI ter encontrado as vulnerabilidades, mas sim: Carlini ainda está no trabalho.