Investigador de Anthropic demuestra: usar LLM para detectar en masa 500 vulnerabilidades zero-day

Headline

Investigador de Anthropic en [un]prompted 2026: LLM extrae en masa 500 vulnerabilidades de día cero

Summary

Rohan Paul compartió el video de la charla de Nicholas Carlini en [un]prompted 2026, titulada “Black-hat LLMs”. Carlini es investigador de seguridad en IA de Anthropic, y demostró cómo los atacantes pueden utilizar modelos de lenguaje grande para localizar y explotar vulnerabilidades de software. Número clave: 500 exploits de día cero generados de manera automatizada. Más preocupante es que, a medida que las capacidades de LLM en la investigación de vulnerabilidades aumentan, el modelo de amenaza está cambiando: de “cómo atacar modelos de IA” a “qué sucederá si la IA comienza a atacar otros sistemas”.

Analysis

No es una especulación en papel, sino una evidencia reproducible. Carlini documentó cómo LLM extrajeron defectos reales que las pruebas de fuzzing tradicionales y el análisis estático pasaron por alto, incluidos problemas de elusión de autenticación. En su blog, enfatizó repetidamente la eficiencia:

• LLM no necesariamente crean nuevos tipos de ataque, pero reducirán drásticamente el costo y la barrera de entrada de los ataques existentes
• Las ganancias típicas incluyen: generación masiva de phishing, reconocimiento automatizado de objetivos, encadenamiento de explotación scriptificado
• Estas etapas, que antes requerían fondos o experiencia avanzada, se han “democratizado” y pueden escalarse en paralelo

La retroalimentación de la comunidad (discusión en la conferencia y hilos de Hacker News) indica que la industria está tomando en serio este cambio. Hay un punto de vista razonable en contra: la extracción de vulnerabilidades asistida por IA podría beneficiar más a la defensa, ya que las empresas pueden implementarlo sistemáticamente en CI/CD y en líneas base de activos, cubriendo más y descubriendo antes. Pero Carlini dejó claro que el resultado sigue siendo incierto: quién se beneficia más, si la defensa o el ataque, actualmente nadie puede concluirlo.

La inquietante pregunta es la dimensión temporal: si las capacidades continúan mejorando en los próximos 6-12 meses, ¿qué sucederá? El trabajo de Carlini muestra que aún estamos lejos del “techo”.

Resumen del impacto en ataque y defensa

Conclusión:

• Los LLM están escalando y sistematizando “ataques conocidos”, no creando nuevos paradigmas de la nada
• A corto plazo, la dinámica de ataque y defensa dependerá de quién integre más rápido los modelos en la línea de producción (datos, potencia de cálculo, evaluación y capacidad de retroalimentación en bucle)

Impact Assessment

• Importancia: Alta
• Ámbito: Seguridad en IA, Investigación en IA, Perspectiva Técnica

Juicio: Estamos en un punto de inflexión “temprano pero acelerado”. Tienen la mayor ventaja los equipos defensivos con capacidades de ingeniería y sistematización, los proveedores de seguridad, las grandes empresas, así como los fondos que pueden asignar recursos para incubar cadenas de herramientas. Los individuos en el equipo rojo se beneficiarán, pero aquellos que implementen sistemáticamente obtendrán mayores recompensas primero.