El CEO de Anthropic advierte sobre un 'momento de peligro' cibernético mientras la IA expone miles de vulnerabilidades

Dario Amodei, CEO y cofundador de Anthropic, se fue, y Jamie Dimon, CEO de JPMorgan Chase.

Denis Balibouse | Reuters | Samuel Corum | Bloomberg | Getty Images

El CEO de Anthropic, Dario Amodei, advirtió el martes que la inteligencia artificial ha creado una ventana estrecha para que las empresas tecnológicas, gobiernos y bancos del mundo arreglen decenas de miles de vulnerabilidades de software encontradas por el último modelo de su compañía.

Ese modelo de IA, Mythos, fue presentado el mes pasado junto con la divulgación de que había descubierto vulnerabilidades de décadas de antigüedad en software crucial.

Dado que los modelos de IA de China, adversario geopolítico, están “quizás de seis a 12 meses” detrás del producto de Anthropic, hay “más o menos ese tiempo” para solucionar estos problemas, dijo Amodei.

Los comentarios se produjeron durante un evento de Anthropic en el que Amodei compartió escenario con el CEO de JPMorgan Chase, Jamie Dimon, y presentó una nueva suite de agentes destinada a automatizar tareas financieras.

“El peligro es simplemente un aumento enorme en la cantidad de vulnerabilidades, en la cantidad de brechas, en el daño financiero que se hace por ransomware en escuelas, hospitales, sin mencionar los bancos”, dijo Amodei.

Anthropic ha limitado Mythos a unas pocas empresas asociadas debido a preocupaciones sobre lo que los criminales o naciones adversarias podrían hacer con él. Las últimas actualizaciones del modelo de la compañía han tenido repercusiones en los mercados, pero Mythos ha generado la mayor preocupación tanto en las corporaciones como en los responsables políticos.

La escala de posibles exploits cibernéticos ha aumentado con cada generación de Claude, dijo Amodei. Un modelo anterior de Anthropic encontró aproximadamente 20 vulnerabilidades en el navegador Firefox. Mythos encontró casi 300, y el conteo total en todo el software ahora alcanza las decenas de miles, afirmó.

La mayoría de las vulnerabilidades encontradas por Mythos no han sido divulgadas públicamente porque aún no se han parcheado, y “los malos las explotarán” si se identifican, dijo Amodei.

‘Un mundo mejor’

A pesar de la alarma, tanto Amodei como Dimon también expresaron un tono de optimismo condicional.

“Se trata de un momento de peligro en el que, si respondemos correctamente, y creo que ya comenzamos a dar los primeros pasos, podemos tener un mundo mejor al otro lado”, dijo Amodei. “Solo hay unos pocos errores por encontrar.”

Dimon también dijo que, aunque los temores cibernéticos estaban justificados, los riesgos de ciberseguridad creados por la IA son un “periodo transitorio.”

Sobre la regulación, Amodei afirmó que la supervisión de la IA debería asemejarse a lo que se hace en la industria automotriz, buscando un equilibrio entre la seguridad del consumidor y permitir que la industria compita.

“No puedes simplemente comenzar una empresa de autos sin preguntarte ‘¿Tiene frenos esto?’”, dijo. “Necesitamos tantear nuestro camino hacia un proceso que permita a la industria operar con rapidez, sea justo, pero que ponga límites a las cosas más graves.”

El evento de la compañía, y su escenario con Dimon, el portavoz más conocido de la industria financiera, parecieron demostrar que Anthropic lleva ventaja sobre OpenAI en el mercado de IA empresarial, mientras ambas empresas se dirigen hacia posibles ofertas públicas iniciales.

Anthropic anunció el martes una expansión de su plataforma de servicios financieros, incluyendo 10 nuevos agentes de IA para banca de inversión y trabajo de back-office, así como integración en los diversos programas de Office de Microsoft. La compañía también dijo que su modelo más reciente, Claude Opus 4.7, lidera los benchmarks para tareas de análisis financiero.

ver ahora

VIDEO1:5101:51

Anthropic anuncia nueva suite de herramientas de IA diseñadas para instituciones financieras

Movilizadores de dinero

Elige CNBC como tu fuente preferida en Google y no te pierdas ningún momento de la fuente más confiable en noticias de negocios.