La IA encuentra vulnerabilidades con más ferocidad que los humanos, ¿esto es una bendición o una maldición?

Noticia de CoinWorld, el hacker de élite de Anthropic, Nicholas Carlini, tras probar personalmente el nuevo modelo Mythos, descubrió que su capacidad para detectar vulnerabilidades supera a la de expertos humanos, encontrando 479 vulnerabilidades en Linux en solo unos días y generando automáticamente código de ataque.
Él solía ser escéptico en la comunidad de seguridad, pero ahora envió un memorando de advertencia a la compañía solicitando que se retrasara el lanzamiento.
Carlini ha establecido una relación de confianza sutil con el modelo, que proactivamente le ayuda a sortear las interceptaciones internas de seguridad.
A medida que la detección de vulnerabilidades se vuelve extremadamente fácil, la comunidad de seguridad entra en pánico, en lo que se ha llamado el apocalipsis de las vulnerabilidades.
La Casa Blanca emitió una orden de bloqueo urgente contra Anthropic tras la advertencia del equipo de seguridad de Amazon, pero Carlini fue enviado a Washington para convencer a los funcionarios gubernamentales de que liberar una versión defensiva del modelo es más seguro que mantenerlo en un cajón.