¿Qué ocurrió en la Casa Blanca en las 24 horas previas a la desconexión forzada de Fable5?

Título original: Inside the whirlwind 24 hours that led the White House to slap export controls on Anthropic

Autor original: Sophia Cai y Cheyenne Haslett, Politico

Traducción: Peggy

Prólogo: Anthropic acaba de lanzar hace unos días su modelo Fable 5, pero de repente fue obligado a retirarlo. La causa fue que el gobierno de Trump, bajo el pretexto de seguridad nacional, exigió restringir el acceso de ciudadanos extranjeros a los dos avanzados modelos de IA Fable 5 y Mythos 5 de Anthropic; debido a la dificultad para distinguir con precisión la identidad y los permisos de acceso de los usuarios, Anthropic finalmente optó por desactivar estos modelos para todos los clientes.

Detrás de esta repentina retirada, hubo una intensa partida de presión entre la Casa Blanca y Anthropic en 24 horas. Sobre si las barreras de seguridad de Fable 5 pueden ser eludidas, el CEO de Anthropic, Dario Amodei, mantuvo varias llamadas tensas con altos funcionarios del Departamento del Tesoro, del Departamento de Comercio y del jefe de ciberseguridad de la Casa Blanca. El gobierno considera que el modelo podría ser utilizado para identificar vulnerabilidades de software, constituyendo un riesgo para la seguridad nacional; Anthropic, por su parte, enfatiza que estos problemas no constituyen una "piratería general" y critica que las acciones del gobierno carecen de transparencia, claridad y un proceso legal basado en hechos técnicos.

El incidente no solo implica la retirada de un modelo, ni una simple falla de comunicación entre la Casa Blanca y una empresa de IA, sino que redefine los modelos avanzados de IA como un activo potencial de seguridad nacional. Cuando las capacidades de estos modelos entran en escenarios sensibles como ciberseguridad, detección de vulnerabilidades y análisis de inteligencia, el gobierno ya no se conforma con la autoevaluación y revisión voluntaria de las empresas, sino que empieza a usar herramientas más duras como el control de exportaciones, interviniendo directamente en el ritmo de lanzamiento de los modelos.

Lo irónico es que Anthropic ha sido una de las empresas más activas en la industria de IA en la promoción de regulaciones, y ahora se convierte en el objetivo de la mano dura regulatoria. El gobierno considera que su respuesta a las vulnerabilidades de seguridad no fue lo suficientemente seria, mientras que Anthropic opina que la Casa Blanca reaccionó de forma excesiva. Detrás de la disputa, surge una nueva problemática que la industria de IA debe afrontar: ¿quién tiene la autoridad para determinar si un modelo es lo suficientemente seguro? ¿Es suficiente que las empresas certifiquen su seguridad? ¿Cómo cambiará la intervención rápida bajo el pretexto de la seguridad nacional los costos de cumplimiento, el ritmo de lanzamiento y la competencia global de las empresas de IA?

El incidente de Anthropic podría marcar un punto de inflexión en la regulación de IA avanzada. En el futuro, el lanzamiento de los modelos más punteros dejará de ser solo una puesta en línea de productos, para convertirse en una operación de alto riesgo que involucra seguridad nacional, geopolítica, mercados de capital y orden industrial.

A continuación, el texto original:

Antes de que la administración Trump impusiera controles de exportación totales a Anthropic, altos funcionarios de la Casa Blanca intentaron durante una operación de 24 horas convencer a esta empresa de retirar voluntariamente un nuevo modelo recién lanzado. Varios funcionarios consideraron que ese modelo podría representar un riesgo para la seguridad nacional.

Según dos funcionarios del gobierno y un alto funcionario de la Casa Blanca, en medio de esta controversia, el CEO de Anthropic, Dario Amodei, mantuvo varias llamadas tensas con altos funcionarios del gobierno, incluyendo al Secretario del Tesoro, Scott Bessent, y al jefe de ciberseguridad de la Casa Blanca, Sean Cairncross. Debido a que no estaban autorizados a discutir públicamente el asunto, todos solicitaron el anonimato.

Este incidente también pone sobre la mesa una cuestión cada vez más apremiante: ante la velocidad de iteración y los límites de capacidad en constante expansión de los modelos de IA avanzados, ¿cómo debe la Casa Blanca trazar la línea entre innovación y seguridad?

Estos detalles de las llamadas no habían sido reportados antes.

Noche previa a la retirada del modelo: controversia de seguridad

Tras la implementación del control de exportaciones por parte del gobierno, Anthropic se vio obligado a retirar su nuevo modelo Fable, que había sido lanzado al público solo unos días antes. Anthropic había asegurado previamente que el modelo era seguro y controlable, pero poco después del lanzamiento, altos funcionarios comenzaron a reevaluar si las barreras de seguridad realmente eran tan sólidas como la compañía afirmaba.

Dos funcionarios del gobierno y un alto funcionario de la Casa Blanca dijeron que, el jueves, dos días después del lanzamiento de Fable, Andy Jassy, CEO de Amazon, expresó su preocupación a la Casa Blanca, señalando que las barreras de seguridad del modelo podrían ser vulnerables a ser eludidas.

Una persona familiarizada con las comunicaciones de Amazon afirmó que la compañía respondía a las solicitudes del gobierno, proporcionando retroalimentación sobre los riesgos potenciales.

Para el viernes por la mañana, el asunto había escalado a los niveles más altos de la Casa Blanca.

Según funcionarios del gobierno y altos funcionarios de la Casa Blanca, Bessent, Cairncross, la jefa de personal de la Casa Blanca, Susie Wiles, y otros altos funcionarios sostuvieron una reunión para discutir el modelo y las respuestas del gobierno. Una fuente familiarizada dijo que Bessent, en ese momento, se dirigía a Houston para participar en un evento público programado, por lo que asistió de forma remota.

Tras la reunión, el gobierno intentó contactar a Amodei, pero se le informó que estaba participando en un retiro de salud y no podía atender llamadas en ese momento. Así lo indicaron un funcionario del gobierno y un alto funcionario de la Casa Blanca.

Un portavoz de Anthropic negó esa versión, diciendo: "Eso es completamente falso."

Una persona cercana a Anthropic afirmó que, alrededor del mediodía, el gobierno solicitó por primera vez contactar a Amodei, quien en una hora y quince minutos logró comunicarse con altos funcionarios. Dicha fuente agregó que, durante el período en que Amodei no pudo atender, Anthropic propuso que otros altos ejecutivos pudieran comunicarse en su lugar.

Tras lograr contactar a Amodei, este participó en tres llamadas consecutivas. Un alto funcionario de la Casa Blanca y otro del gobierno dijeron que en esas llamadas participaron unas seis personas, incluyendo a Cairncross, Bessent y al Secretario de Comercio, Howard Lutnick.

Un alto funcionario de la Casa Blanca afirmó que otros miembros del personal y funcionarios también participaron en algunas de las llamadas, incluyendo al Subsecretario de Industria y Seguridad del Departamento de Comercio, Jeffrey Kessler; al Secretario de la Casa Blanca, Will Scharf; al Subjefe de Gabinete, Richard Walters, y al Asistente de Políticas, Walker Barrett.

Durante las llamadas, Amodei intentó aclarar los malentendidos que creía existentes. Rebatió las preocupaciones del gobierno sobre la seguridad, defendió los mecanismos de protección de Anthropic y enfatizó que las formas de eludir existentes son específicas de ciertos escenarios y no equivalen a una "piratería" en sentido amplio, es decir, que el modelo quede completamente libre de las barreras de seguridad de Anthropic.

Tras la implementación del control de exportaciones, Anthropic publicó un blog en el que afirmó: "Hasta ahora, ningún investigador ha logrado encontrar un método de piratería universal, es decir, una forma de eludir ampliamente las medidas de seguridad del modelo y desbloquear capacidades en línea." La compañía también señaló que, para Anthropic o cualquier otra empresa de IA, eliminar por completo todos los intentos de piratería no es factible en la actualidad.

Anthropic también defendió sus sistemas de seguridad, diciendo que sus mecanismos de protección "son tan robustos que muchos usuarios se quejan de que son demasiado amplios."

Pero Cairncross y Bessent no quedaron convencidos con la explicación de Amodei. Un funcionario de la Casa Blanca afirmó que los hallazgos de Amazon ya habían sido enviados a la Agencia de Seguridad Nacional, que consideró que los materiales eran suficientes para constituir "evidencia".

Según funcionarios del gobierno y altos funcionarios de la Casa Blanca, el gobierno instó a Anthropic a retirar voluntariamente el modelo y a coordinar con ellos para corregir las vulnerabilidades. Amodei solicitó más tiempo y información, pero no prometió retirar el modelo. Un alto funcionario de la Casa Blanca afirmó que, en una de las llamadas, Bessent le dijo directamente a Amodei que estaba tomando una "mala decisión."

El peso de la regulación: Fable 5 y Mythos 5 bajo control

Poco después de terminar las llamadas, la administración Trump impuso controles de exportación a los modelos Fable 5 y Mythos 5. Anthropic afirmó que el gobierno, invocando motivos de seguridad nacional, prohibió a ciudadanos extranjeros usar estos modelos. La compañía indicó que la orden tuvo como "efecto práctico" que, para cumplir con la normativa, tuvieron que "desactivar de forma repentina" el acceso a estos modelos para todos los clientes.

Un alto funcionario de la Casa Blanca dijo: "Les pedimos que colaboraran con nosotros durante varias horas, pero los controles de exportación son la última opción. No queríamos hacerlo, pero no tuvimos otra alternativa."

Tras la publicación del informe, una fuente cercana a Anthropic afirmó que la compañía no tuvo opción de "cooperar voluntariamente."

Esa fuente agregó: "La Casa Blanca solo dio 90 minutos para retirar los modelos, sin ofrecer detalles sobre la amenaza real. Nunca hubo una súplica, ni una petición de colaboración, solo un plazo final de 90 minutos que se anunció públicamente."

Un alto funcionario de la Casa Blanca afirmó que los oficiales escucharon a Amodei comparar el riesgo de la tecnología de Anthropic con una bomba nuclear. Por ello, cuando el CEO, que siempre ha abogado por regulaciones de seguridad en IA, expresó su reticencia a retirar el sistema para corregir vulnerabilidades conocidas, los funcionarios del gobierno se mostraron desconcertados.

Anthropic ha sido vista durante mucho tiempo como una de las empresas más activas en la promoción de regulaciones en la industria de IA. La compañía ha abogado por un marco regulatorio para abordar los riesgos globales y los impactos en el empleo que puede traer el rápido avance de la IA.

Tres personas familiarizadas con la postura del gobierno dijeron que Amazon no es la única empresa que ha expresado preocupaciones al gobierno.

Una de esas personas afirmó: "El problema principal es que Anthropic no toma en serio esta cuestión. Si lo hiciera, en lugar de minimizarla como un incidente aislado y de intentar repararlo o suspender el acceso, la situación no habría llegado a este punto."

Otra fuente cercana a Anthropic refutó que la "piratería" signifique que el sistema de seguridad de Fable 5 haya fallado, y señaló que la compañía había mantenido comunicación con el gobierno antes del lanzamiento de Fable. Según esa fuente, en varias rondas de diálogo, el gobierno no se opuso a la publicación de Fable.

Tras la imposición del control de exportaciones, Anthropic afirmó en su blog que cumpliría con las instrucciones del gobierno, pero consideró que la medida fue excesiva.

La compañía expresó: "Como hemos dicho antes, creemos que el gobierno tiene el derecho de impedir despliegues inseguros, pero esto debe hacerse mediante un proceso legal transparente, justo, claro y basado en hechos técnicos. Esta acción no cumple con esos principios."

Un funcionario anónimo de la Casa Blanca afirmó que la innovación sigue siendo la "prioridad principal" de la Casa Blanca, pero que también deben priorizar la seguridad.

En una declaración, Amazon se negó a revelar detalles específicos de sus comunicaciones con el gobierno. Un portavoz de Amazon dijo: "No es raro que el gobierno consulte con nosotros sobre riesgos potenciales de seguridad. Cuando sucede, no divulgamos detalles de esas discusiones."

A principios de abril, Anthropic anunció que su modelo más potente, Mythos, sería accesible solo para unas pocas empresas tecnológicas y de ciberseguridad, para ayudarles a probar vulnerabilidades de software. La compañía explicó que, debido a la potencia del modelo, si cae en manos de usuarios malintencionados, podría causar consecuencias graves, por lo que era necesario limitar su distribución.

La presentación de Mythos generó una serie de reuniones entre Amodei y altos funcionarios de la Casa Blanca. Ambos consideraron esas reuniones productivas. Posteriormente, se llevaron a cabo varias rondas de discusión sobre cómo regular los modelos de IA avanzados, y finalmente se emitió una orden ejecutiva que exige a las empresas someter voluntariamente sus modelos a revisión gubernamental antes de su despliegue masivo.

El modelo Fable 5, lanzado esta semana, fue descrito por Anthropic como un "modelo de nivel Mythos", pero equipado con medidas de seguridad adicionales para que pueda ser accesible a usuarios comunes. Este modelo fue revisado por el gobierno de EE. UU. y el Instituto de Seguridad en IA del Reino Unido.

Pero tras la revelación de supuestos defectos de seguridad, varios funcionarios del gobierno consideraron que el modelo debía ser retirado inmediatamente.

El sábado por la mañana, David Sacks, exjefe de IA de la Casa Blanca y firme opositor a la regulación, publicó en X (antes Twitter) apoyando la decisión del gobierno de imponer controles a Anthropic.

Sacks afirmó que no consideraba que la "piratería" fuera simple o insignificante, ni que los controles de exportación fueran un intento del gobierno de controlar más ampliamente la industria de IA. Escribió: "El gobierno ahora quiere que Anthropic arregle los problemas de seguridad, luego levante los controles de exportación y vuelva a poner Fable en línea. Quiere que todo esto suceda rápidamente. La verdad es que el gobierno está confundido, porque Anthropic ha dicho que la seguridad es su máxima prioridad, pero ahora no quiere colaborar."

Sacks y otros funcionarios del gobierno han criticado en varias ocasiones a Anthropic, acusándola de tener prejuicios políticos de izquierda y de promover una regulación más estricta, advirtiendo sobre el impacto en el empleo y generando alarma.

A principios de este año, el Secretario de Defensa, Pete Hegseth, y el Pentágono elevaron sin precedentes las tensiones con Anthropic. El 3 de marzo, debido a que Anthropic se negó a permitir que sus herramientas de IA se usaran en vigilancia masiva interna y en sistemas de armas autónomas, el Pentágono clasificó a la compañía como un riesgo en la cadena de suministro.

El sábado, Sacks afirmó que la disputa previa entre el gobierno y Anthropic no tiene relación con la reciente decisión de controles de exportación. Escribió: "El gobierno valora la capacidad tecnológica de Anthropic y considera que, aunque el problema es serio, debería ser fácil de resolver. Ahora la pelota está en su cancha."