Anthropic junto con Microsoft(MSFT.US) y otros gigantes tecnológicos prueban nuevos modelos de IA para hacer frente a los riesgos de ciberseguridad

La aplicación Zhitong Finance APP informó que Anthropic anunció el martes que, junto con varias grandes empresas tecnológicas, lanzará un nuevo programa para anticipar las amenazas a la ciberseguridad que podrían derivarse de modelos de IA más potentes.

Según se indica, Anthropic ha lanzado el proyecto de colaboración denominado “Project Glasswing” y abrirá a varias empresas tecnológicas, incluidas Amazon (AMZN.US), Apple (AAPL.US), Microsoft (MSFT.US) y Cisco (CSCO.US), un modelo de IA aún no publicado llamado “Mythos”. Las empresas implicadas utilizarán este modelo para identificar vulnerabilidades de seguridad en sus propios productos y compartirán los resultados de la investigación con la industria.

Anthropic afirmó que, en la actualidad, no existe un plan para abrir Mythos al público. En el futuro, en función de los resultados de la retroalimentación del proyecto Glasswing, se establecerán “protecciones” de seguridad más completas para este modelo. Esta medida refleja que la preocupación del sector tecnológico por el riesgo creciente de que actores maliciosos, incluidos piratas informáticos o adversarios respaldados por estados, abusen de los modelos avanzados de IA está aumentando.

En el sector, se considera en general que, a medida que mejoran las capacidades de la IA, también aumentan en paralelo sus aptitudes para el análisis de código y la explotación de vulnerabilidades, lo que podría utilizarse para eludir los sistemas de defensa de red existentes. El competidor de Anthropic, OpenAI, también había destacado anteriormente riesgos similares y había lanzado un proyecto piloto, priorizando la entrega de herramientas de IA a los defensores.

Newton Cheng, responsable del equipo de ciberseguridad de Anthropic, dijo que esto no es un problema de una sola empresa, sino un desafío al que deben hacer frente conjuntamente todo el sector e incluso los gobiernos. “Queremos, a través de Glasswing, que los defensores obtengan una ventaja de salida antes de que la tecnología se difunda.”

La compañía también reveló que ha iniciado conversaciones sobre las capacidades de seguridad de Mythos con las autoridades gubernamentales relevantes de Estados Unidos, y que mantiene la colaboración con la Agencia de Seguridad de Infraestructura y Ciberseguridad (CISA) y el Instituto Nacional de Estándares y Tecnología (NIST).

Aunque Mythos no se desarrolló específicamente para la ciberseguridad, su desempeño ha generado atención. Anthropic afirmó que el modelo ha descubierto varias vulnerabilidades importantes, incluida una vulnerabilidad crítica de software de Internet que existe desde hace 27 años, y una falla de código de un juego que llevaba 16 años sin detectarse; esta última había sido escaneada más de 5M de veces por herramientas de pruebas automatizadas sin que se identificara.

Para evitar el uso indebido de la tecnología, Anthropic señaló que ha implementado estrictas medidas de control de acceso para los participantes del proyecto Glasswing, pero no divulgó detalles específicos.