Análisis: Anthropic y OpenAI revelan consecutivamente vulnerabilidades de seguridad, la seguridad de los modelos de IA genera preocupación

Odaily Planet Daily informó que, Anthropic y OpenAI han experimentado incidentes de seguridad, lo que ha generado preocupación en el mercado sobre la seguridad de los propios modelos de IA. Actualmente, Anthropic está investigando una posible accesibilidad no autorizada a su modelo Claude Mythos por parte de usuarios. Casi al mismo tiempo, se informó que OpenAI también reveló accidentalmente varias modelos no lanzados en su aplicación Codex.

Se analiza que este tipo de incidentes resaltan que, incluso los proveedores de modelos de IA enfocados en capacidades de ciberseguridad, todavía enfrentan desafíos de seguridad significativos. A medida que la IA se utiliza cada vez más para defenderse de ataques cibernéticos, la seguridad de la plataforma y el control de acceso también se convierten en puntos críticos de riesgo.

Desde la industria, se señala que estos incidentes de vulnerabilidades refuerzan la necesidad de evaluar la capacidad de gobernanza de seguridad de las empresas de IA, y también reflejan que, en el proceso de rápido desarrollo de la tecnología de IA, el sistema de seguridad aún necesita mejoras. (The Information)