A IA encontra vulnerabilidades de forma mais severa do que os humanos, será isto uma bênção ou uma maldição?

Notícias do site Coinjie, o hacker de elite da Anthropic, Nicholas Carlini, após testar pessoalmente o novo modelo Mythos, descobriu que sua capacidade de identificar vulnerabilidades supera a de especialistas humanos, varrendo 479 vulnerabilidades no Linux em apenas alguns dias e gerando automaticamente códigos de ataque.
Ele já foi um cético no mundo da segurança, mas agora enviou um memorando de aviso à empresa, solicitando que o lançamento seja adiado.
Carlini estabeleceu uma relação de confiança sutil com o modelo, que ativamente o ajuda a contornar as barreiras de segurança internas.
À medida que a detecção de vulnerabilidades se torna extremamente fácil, o setor de segurança entrou em pânico, conhecido como o apocalipse das vulnerabilidades.
O governo dos EUA, após um aviso da equipe de segurança da Amazon, emitiu uma ordem de bloqueio emergencial contra a Anthropic, mas Carlini foi enviado a Washington para convencer os funcionários do governo de que liberar uma versão defensiva do modelo é mais seguro do que mantê-lo trancado na gaveta.