Anthropic afirma que no hay un 'interruptor de apagado' para los modelos de IA desplegados en el Pentágono

Según la monitorización de Beating, Anthropic presentó documentos ante la Corte de Apelaciones Federal de Washington indicando que una vez que sus modelos de IA se desplieguen en el entorno del Pentágono, la empresa no tiene visibilidad ni medios técnicos para controlar o apagar los modelos, y no existe un ‘interruptor de apagado’ en su lugar. Anthropic también señaló que el Pentágono tuvo la oportunidad de probar los modelos antes del despliegue. Este documento representa el último desarrollo en la disputa entre Anthropic y el Pentágono sobre la etiqueta de ‘riesgo en la cadena de suministro’. En marzo de este año, el Pentágono clasificó a Anthropic como un riesgo en la cadena de suministro, citando la interferencia inapropiada de la empresa en cómo se usa su tecnología en operaciones militares sensibles. La esencia de la disputa radica en la política de uso de Anthropic, que prohíbe que Claude sea utilizado para armas autónomas o vigilancia masiva, una estipulación que el Pentágono considera una ’ cortina de humo’. La litigación ha provocado una división entre los dos tribunales: el tribunal de Washington rechazó la solicitud de Anthropic de suspender la etiqueta de riesgo en la cadena de suministro, mientras que el tribunal de California la aprobó. El efecto práctico es que Anthropic no puede participar en nuevos contratos con el Pentágono, pero puede seguir proporcionando servicios a otras agencias gubernamentales. Mientras tanto, la administración Trump está impulsando el despliegue del nuevo modelo de Anthropic, Mythos, en agencias federales, con los jefes de agencias explorando cómo usar Mythos para defenderse contra ciberataques, contradiciendo la postura del Pentágono de que Anthropic representa un riesgo para la seguridad nacional. La próxima audiencia está programada para el 19 de mayo.