A IA encontra vulnerabilidades com mais rigor do que os humanos, isso é uma bênção ou uma maldição?

Notícias do site Coinjie, o hacker de elite da Anthropic, Nicholas Carlini, após testar pessoalmente o novo modelo Mythos, descobriu que sua capacidade de identificar vulnerabilidades supera a de especialistas humanos, varrendo 479 vulnerabilidades no Linux em apenas alguns dias e gerando automaticamente códigos de ataque.
Ele já foi um cético no mundo da segurança, mas agora enviou um memorando de alerta à empresa, solicitando que a publicação seja adiada.
Carlini estabeleceu uma relação de confiança sutil com o modelo, que ativamente o ajuda a contornar as barreiras de segurança internas.
À medida que a detecção de vulnerabilidades se torna extremamente fácil, o setor de segurança entrou em pânico, conhecido como o apocalipse das vulnerabilidades.
O governo dos EUA, após advertências da equipe de segurança da Amazon, emitiu uma ordem de bloqueio emergencial para a Anthropic, mas Carlini foi enviado a Washington para convencer os funcionários do governo de que liberar uma versão defensiva do modelo é mais seguro do que mantê-lo trancado na gaveta.