El gobierno de Estados Unidos bloqueó el modelo de Anthropic, y en realidad no fue por ninguna "salida de prisión".

Autor: Zack Whittaker

Traducido por: Deep潮 TechFlow

Resumen de Deep潮: El viernes pasado, una carta del Departamento de Comercio de EE. UU. obligó a Anthropic a retirar completamente sus dos modelos más potentes, Fable 5 y Mythos 5. La razón oficial fue la seguridad nacional, pero el público pensó que se trataba de que se había eludido la protección del modelo. Sin embargo, cada vez más detalles apuntan a otra explicación: esto parece más una represalia tras la ruptura de relaciones entre el gobierno de Trump y Anthropic. Una empresa tecnológica fue ordenada por el gobierno, sin necesidad de aprobación judicial, para cerrar sus productos, lo cual envía una señal a toda la industria tecnológica estadounidense.

La carta del gobierno de EE. UU. a Anthropic, enviada antes del fin de semana, obligó a la compañía a retirar todos sus modelos de IA más recientes. Cualquier empresa tecnológica estadounidense debería tomar esto como una advertencia, no solo los laboratorios de IA.

Primero, repasemos las noticias de estos días. El viernes por la tarde, el Departamento de Comercio de EE. UU. envió una carta a Anthropic, citando una regla de control de exportaciones muy poco conocida, que prohíbe a no estadounidenses (incluidos los empleados de Anthropic) acceder a Fable 5 y Mythos 5, alegando una preocupación de seguridad nacional no especificada. Anthropic afirmó que interpretó la carta como relacionada con la evasión de las protecciones del modelo, pero no estaba segura, ya que en la carta no se dieron detalles específicos. Hasta ahora, esta carta no ha sido hecha pública.

La respuesta de Anthropic fue cerrar todos los modelos principales para todos los clientes, asegurando así su cumplimiento. El resultado fue que el gobierno de EE. UU., mediante una acción rápida, unilateral y que parecía no requerir aprobación judicial, logró forzar a una empresa tecnológica a retirar sus modelos.

Esta intervención del gobierno de Trump demuestra que la industria de IA no puede ser inmune ante la autoridad gubernamental. Para la industria tecnológica en general, también es una advertencia: o acatan las órdenes, o podemos cerrarles a ustedes y a sus productos.

Axios, citando fuentes, describió la tensión entre estos dos grandes actores durante el fin de semana, diciendo que la verdadera causa de la orden de exportación fue la «mala relación» entre Anthropic y el gobierno de Trump, y no un problema técnico con los productos de IA.

Los nuevos detalles que surgieron durante el fin de semana debilitan aún más la ya frágil justificación del gobierno.

Katie Moussouris, veterana en ciberseguridad, investigadora y fundadora de Luta Security, dijo en un blog que Anthropic le mostró en privado un documento escrito por varios investigadores de seguridad, que describe cómo se eludieron las protecciones en Fable 5. (Según The Wall Street Journal, los autores del documento son investigadores de seguridad de Amazon). Moussouris afirmó que Anthropic le pidió su opinión sobre ese documento.

En su blog, Moussouris explicó cómo los investigadores activaron la evasión de las protecciones, pero afirmó que esa evasión «en realidad no debería activar las controles de exportación». La diferencia es pequeña: hacer que la IA «verifique problemas de seguridad en el código» y que «arregle ese código» es solo una formulación diferente, pero el resultado final es similar.

«La conducta descrita en el documento no puede ser realmente corregida, cualquier intento solo debilitará la capacidad defensiva del modelo», dijo Moussouris. Criticó la orden de exportación por ser precipitada, brutal y mal fundamentada.

Luego, Moussouris y decenas de expertos en seguridad de alto nivel hicieron un llamado para que el gobierno de Trump retire esa orden, advirtiendo que quitar capacidades avanzadas de ciberseguridad a los defensores de la red estadounidense es «peligroso».

Todos los gobiernos anteriores han tomado decisiones drásticas en áreas de conocimiento limitado. Por ejemplo, en la década de 2010, cuando EE. UU. revisó las leyes de exportación, intentó controlar las herramientas de ciberseguridad que podían usarse tanto para defensa como para ataque, pero el lenguaje era demasiado amplio, y casi accidentalmente criminalizó la investigación legítima de seguridad y vulnerabilidades.

Pero esta orden del gobierno de Trump parece ser una represalia.

Justin Hendrix, editor de Tech Policy Press, dijo que esta acción «probablemente hará que los gobiernos extranjeros duden de la fiabilidad de la IA estadounidense en escenarios críticos». La señal que transmite es que las empresas de IA en EE. UU. no pueden operar sin la intervención del gobierno estadounidense.

El gobierno de Trump no confirmó por qué utilizó esa orden de control de exportaciones. ¿Fue que los funcionarios malinterpretaron el informe y entraron en pánico? ¿Fue que el CEO de Amazon, Andy Jassy, por cautela o resentimiento, dijo algo a los altos funcionarios del gobierno, provocando esta reacción? ¿Hubo un error en la traducción, o esto fue una forma de presionar a Anthropic, dado que las relaciones entre ambas empresas ya estaban tensas? También es posible que la Casa Blanca ni siquiera se diera cuenta de que esa carta provocaría una reacción en cadena tan grande, y ahora los funcionarios están tratando de arreglar el problema que ellos mismos crearon.

Según Hendrix, «el ambiente actual está lleno de sospechas, y los altos funcionarios parecen estar eligiendo a sus favoritos basándose en motivos personales y políticos». La consecuencia es que el gobierno «ha establecido un peligroso precedente sobre cuánto control quiere ejercer sobre el software que se desarrolla en EE. UU.»

Lo que ocurrió con Anthropic puede suceder mañana con cualquier otra compañía.