Google interrumpe a los hackers que usan IA para explotar una debilidad desconocida en la defensa digital de una empresa

Google dijo el lunes que había interrumpido el intento de un grupo criminal de usar inteligencia artificial para explotar otra vulnerabilidad digital previamente desconocida de una empresa, sumándose a las preocupaciones crecientes en el gobierno y la industria privada sobre los riesgos de la IA para la ciberseguridad.

Google compartió información limitada sobre los atacantes y el objetivo, pero John Hultquist, director de análisis en el brazo de inteligencia de amenazas del gigante tecnológico, dijo que representa un momento que los expertos en ciberseguridad han advertido durante años: hackers maliciosos armándose con IA para potenciar su capacidad de infiltrarse en las computadoras del mundo.

“Ya está aquí,” dijo Hultquist. “La era de vulnerabilidades y explotación impulsadas por IA ya está aquí.”

Ocurre en un momento de avances en las habilidades de la IA para encontrar vulnerabilidades, incluido el modelo Mythos anunciado hace un mes por Anthropic. Entre quienes intentan fortalecer sus defensas está la Casa Blanca del presidente Donald Trump, que ha cambiado su enfoque en cómo planea evaluar los modelos de IA más potentes antes de su lanzamiento público.

Después de cumplir con una promesa de campaña de derogar las barreras del presidente demócrata Joe Biden en torno a esta tecnología en rápido desarrollo, la administración republicana y sus aliados están enviando ahora señales mixtas sobre el papel que debe jugar el gobierno en la supervisión de la IA.

Relacionado con las historias Google dice que encontró evidencia de que la IA ayudó en un ciberataque

Google dijo que observó a un grupo de “actores de amenaza” prominentes planificando una gran operación que dependía de un error que habían encontrado. La vulnerabilidad les permitía evadir la autenticación de dos factores para acceder a una herramienta de administración de sistemas en línea, que Google se negó a nombrar.

La compañía lo llamó un exploit de día cero, un ciberataque que aprovecha una vulnerabilidad de seguridad previamente desconocida. “Día cero” se refiere al hecho de que los ingenieros de seguridad han tenido cero días para desarrollar una solución para la vulnerabilidad.

Google dijo que notificó a la empresa afectada y a las autoridades y pudo interrumpir la operación antes de que causara daños. Pero al rastrear las huellas de los hackers, encontró evidencia de que habían utilizado un modelo de lenguaje grande de IA — la misma tecnología que impulsa los chatbots populares — para descubrir la vulnerabilidad.

Google no reveló qué modelo de IA se usó en el ciberataque, solo que probablemente no fue Gemini de Google ni Claude Mythos de Anthropic. Tampoco reveló qué grupo sospechaba en el ataque, pero dijo que no había evidencia de que estuviera vinculado a un gobierno adversario, aunque la compañía mencionó que grupos vinculados a China y Corea del Norte han explorado técnicas similares.

Hultquist dijo que, en comparación con los espías gubernamentales que suelen trabajar lentamente y en silencio, los hackers criminales tienen mucho que ganar con la “tremenda capacidad de velocidad” de la IA para encontrar y aprovechar fallos de seguridad.

“Hay una carrera entre tú y ellos para detenerlos antes de que puedan obtener básicamente los datos que necesitan para extorsionarte o lanzar ransomware,” dijo en una entrevista. “La IA será una gran ventaja porque pueden moverse mucho más rápido.”

Anthropic’s Mythos ha provocado pánico y un llamado a la regulación

La Oficina de Comercio de Trump anunció la semana pasada que firmó nuevos acuerdos con Google, Microsoft y xAI de Elon Musk para evaluar sus modelos de IA más potentes antes de su lanzamiento público, basándose en acuerdos previos que la administración Biden hizo con Anthropic y OpenAI, creador de ChatGPT. Pero el anuncio desapareció posteriormente del sitio web de la Oficina de Comercio.

Fue el último ejemplo de señales confusas por parte de la administración Trump en el mes desde que Anthropic anunció un nuevo modelo llamado Mythos, que afirmó era tan “sorprendentemente capaz” en tareas de hacking y ciberseguridad que solo podía ser lanzado a un pequeño grupo de organizaciones de confianza.

Anthropic creó una iniciativa llamada Proyecto Glasswing que reúne a gigantes tecnológicos como Amazon, Apple, Google y Microsoft, junto con otras empresas como JPMorgan Chase, con la esperanza de proteger el software crítico del mundo del “daño severo” que el nuevo modelo podría causar en la seguridad pública, la seguridad nacional y la economía. Pero su relación con el gobierno de EE. UU. fue complicada por una pelea pública y legal con el Pentágono y el propio Trump sobre el uso militar de su tecnología de IA.

Su principal rival, OpenAI, ha presentado desde entonces un modelo similar. La compañía anunció el viernes que lanzaría una versión especializada en ciberseguridad de ChatGPT que solo estaría disponible para “defensores responsables de asegurar infraestructuras críticas” para ayudarlos a encontrar y corregir vulnerabilidades en su código.

Ball dijo que es optimista de que, a largo plazo, las herramientas de IA cada vez mejores en codificación nos harán más seguros frente a los ataques cibernéticos rutinarios que afectan hospitales, escuelas y otras organizaciones. Sin embargo, mientras tanto, afirmó que hay “trillones no contados de líneas de código de software” que soportan los sistemas informáticos del mundo y que están en riesgo si se liberan herramientas de IA para explotar todos sus fallos.

Podría tomar años fortalecer todo ese software — un proceso que Ball cree que sería ayudado por la coordinación del gobierno de EE. UU.

Mientras tanto, Ball predice un “período de transición” en el que los riesgos de ciberseguridad aumentarán significativamente y “el mundo podría ser en realidad más peligroso.”