Galaxy：Anthropic终极模型难题

Autor: Alex Thorn, Director General y Jefe de Investigación de Galaxy Digital; Fuente: Galaxy Digital; Traducción: Shaw, Golden Finance

El viernes 12 de junio a las 5:21 p.m. hora del este de EE. UU., Anthropic recibió una orden de control de exportaciones del Departamento de Comercio de EE. UU., exigiendo que bloquee los modelos grandes Fable 5 y Mythos 5 para todos los extranjeros a nivel global, incluidos los empleados no estadounidenses de la propia empresa. Estados Unidos afirmó que alguien había encontrado una forma de eludir los mecanismos de protección de seguridad de Fable 5 y acceder a las funciones de seguridad cibernética del modelo Mythos subyacente.

Esta empresa de inteligencia artificial no pudo dividir los permisos de usuario por nacionalidad dentro del plazo exigido por el gobierno, por lo que en cuestión de horas cerró los dos modelos mencionados a nivel mundial. Todos los demás modelos de la serie Claude mantuvieron su servicio normal.

Dos de los modelos de lenguaje más avanzados de la industria fueron dados de baja, solo por una notificación privada del gobierno, sin orden judicial, sin materiales de archivo públicos y sin divulgación completa de las conclusiones de la investigación. El miércoles, un usuario de Reddit publicó que el catálogo de productos de la plataforma Bedrock de Amazon Web Services ya incluía Fable 5, lo que sugiere que las restricciones en los canales en la nube podrían estar levantándose. Pero en cualquier caso, este evento ha traído enormes riesgos para la industria de la inteligencia artificial, la innovación tecnológica y el mercado de capitales de EE. UU.

Cruzando el Rubicón (estableciendo un precedente irreversible)

El gobierno de EE. UU. declaró efectivamente que, con una simple orden administrativa, puede retirar arbitrariamente modelos comerciales grandes del mercado. Aunque esta medida de control es un control de exportaciones, su efecto en el mercado equivale a un retiro de producto.

El gobierno federal ha cruzado la línea roja en la regulación de la IA: antes solo era responsable de establecer reglas comunes para la industria, ahora tiene un poder de veto discrecional para decidir qué modelos pueden ser publicados y cuándo. Una vez que este poder se establezca, nunca se contraerá por sí mismo; si el gobierno no ajusta su política a tiempo, las órdenes de control similares posteriores serán más fáciles de emitir que esta.

El hecho de que la base para desencadenar este control sea insostenible empeora aún más este precedente negativo. La única experta externa que ha visto el informe de investigación subyacente, Katie Moussouris de Luta Security, describió claramente el proceso completo de la llamada "vulnerabilidad de jailbreak del modelo": los investigadores de Amazon ingresaron código abierto con vulnerabilidades conocidas en el modelo, pidiéndole que identificara riesgos de seguridad; ambos modelos se negaron. Luego, los investigadores pidieron al modelo que corrigiera el código problemático, y el modelo lo hizo.

Experta en seguridad cibernética Katie Moussouris

Moussouris calificó el escenario de prueba bajo esta orden como inducción de indicaciones defensivas, no como un verdadero jailbreak que elude la protección de seguridad, y afirmó que esta capacidad es precisamente el valor central que la inteligencia artificial puede proporcionar a los equipos de seguridad cibernética. Según la única experta que ha visto el archivo completo de la investigación, solo las cinco palabras "arreglar este código" llevaron a que el modelo de lenguaje grande especializado en seguridad cibernética más avanzado del mercado fuera retirado.

El Departamento de Comercio de EE. UU. no ha publicado públicamente la orden de control emitida a Anthropic, ni ha divulgado la base completa para la emisión de dicha orden. No se puede encontrar ningún documento de divulgación relacionado en el sitio web del Departamento de Comercio, el Registro Federal u otros canales públicos. Esta notificación de control se emitió solo como una carta confidencial de la Oficina de Industria y Seguridad del Departamento de Comercio, y ni el Departamento ni Anthropic han hecho público su contenido. La autoridad legal bajo la cual el Departamento emitió la orden también es ambigua.

El Centro de Estudios Estratégicos e Internacionales (CSIS) especula que el Departamento de Comercio podría haber invocado la autoridad de "notificación informada" bajo la Ley de Reforma del Control de Exportaciones de 2018 (ECRA) — donde el Departamento informa privadamente a la empresa de que el producto en cuestión debe solicitar una licencia de exportación a partir de entonces, y las reglas de control se implementan a través de las Regulaciones de Administración de Exportaciones (EAR). Sin embargo, las EAR no tienen reglas de apoyo para esta autoridad legal, razón por la cual nunca antes se había utilizado como base para medidas de control, y el Departamento tampoco ha emitido regulaciones de implementación.

Un estándar regulatorio que nunca se puede cumplir

En el contenido de la defensa publicada por Anthropic, hay una frase que directamente expone la irracionalidad de esta política. La empresa dijo que actualmente ningún fabricante puede lograr una defensa completa contra el jailbreak del modelo, y eventualmente alguien encontrará un método de elusión general. Los investigadores de seguridad han mantenido la misma opinión durante años: ningún modelo comercial en línea ha demostrado poder resistir a atacantes maliciosos dirigidos específicamente al modelo. Los modelos con API cerradas pueden ser jailbreakeados a través de la capa de indicaciones; los modelos de pesos abiertos pueden ser completamente alterados, lo que elimina directamente la lógica de rechazo integrada en los pesos del modelo. Una vez que los pesos del modelo se filtran (como ha ocurrido varias veces en la historia), los modelos cerrados expondrán vulnerabilidades de seguridad exactamente iguales a las de los modelos de código abierto.

El estándar regulatorio implícito del gobierno es completamente opuesto a la realidad objetiva anterior. Si el requisito estricto para lanzar un modelo es que no exista ningún método para activar funciones peligrosas, entonces este estándar es imposible de lograr desde la lógica subyacente. Incluso los propios ingenieros de Anthropic han confirmado que esta condición no se puede cumplir, por lo que la empresa naturalmente no puede ofrecer una garantía de que no haya vulnerabilidades, y otros fabricantes tampoco pueden hacerlo. Según la lógica de Anthropic, si toda la industria implementa este estándar de revisión de manera uniforme, la comercialización de modelos grandes de inteligencia artificial de vanguardia se detendría por completo. Un umbral que ningún fabricante puede alcanzar no es un estándar de seguridad, es solo un veto discrecional disfrazado de experiencia técnica.

El camino alternativo de la vigilancia de identidad nacional

Suponiendo que Anthropic quisiera cumplir estrictamente con los requisitos literales de la carta: proporcionar servicio solo a usuarios en EE. UU. y bloquear completamente el acceso a extranjeros, la única opción viable sería implementar una verificación completa de identidad para todos los usuarios. Anthropic necesitaría implementar un proceso completo de Conozca a su Cliente (KYC), obligando a los usuarios a cargar documentos de nacionalidad y residencia, con una complejidad equivalente a abrir una cuenta de valores. Con este mecanismo, la plataforma podría dividir el acceso por nacionalidad (aunque incluso así, los empleados extranjeros dentro de la empresa seguirían siendo restringidos). Sin la verificación de identidad, sería imposible aislar a los usuarios extranjeros del acceso al modelo Fable 5.

Ya hay informes de que Anthropic está preparando un sistema de verificación de identidad de usuarios para cumplir con los requisitos de control, y los archivos de código filtrados también lo confirman. La empresa está construyendo este sistema de acceso con características de vigilancia, pero debería detener inmediatamente el avance de este plan.

Los países occidentales están construyendo infraestructura de vigilancia.

Los países occidentales ya han estado construyendo este sistema de verificación de identidad y vigilancia. La Ley de Seguridad en Línea del Reino Unido, que entró en vigor en julio de 2025, exige que la Oficina de Comunicaciones del Reino Unido (Ofcom) implemente lo que llama un "mecanismo de verificación de edad de alta confiabilidad". Los métodos de verificación reconocidos oficialmente incluyen identificación con foto, estimación de edad facial, y verificación bancaria abierta (donde los bancos confirman la edad del usuario basándose en información de la cuenta sin divulgar datos financieros subyacentes). Alrededor de 19 estados de EE. UU. han promulgado regulaciones similares de control de acceso de identidad, varias de las cuales están enfrentando demandas judiciales basadas en la Primera Enmienda de EE. UU. La Electronic Frontier Foundation (EFF) siempre se ha opuesto a tales controles, advirtiendo que la verificación de identidad obligatoria crearía un atractivo para datos altamente sensibles y acabaría por completo con el anonimato en Internet.

Si el mecanismo de verificación de identidad KYC se utiliza para controlar el acceso a modelos grandes, todos los daños anteriores se transferirán a la inteligencia artificial — y la IA es precisamente la tecnología más capaz de profundizar y explotar los datos acumulados. Ningún laboratorio de IA de vanguardia debería imponer la verificación de identidad obligatoria, y el gobierno no debería obligar a las empresas a hacerlo. Internet debe permanecer abierto y libre, y los beneficios del conocimiento y la potencia computacional que ofrece la inteligencia artificial deben estar disponibles para todos.

El callejón sin salida regulatorio que plantean los modelos de código abierto

Este enfoque de control de exportaciones es esencialmente contraproducente, y la raíz está en el ecosistema de pesos abiertos. La tecnología de IA de vanguardia no es exclusiva de unas pocas empresas estadounidenses. Una carta abierta liderada por Alex Stamos y firmada por más de cien líderes de seguridad cibernética (incluyendo nombres como Bruce Schneier, Casey Ellis, Paul Vixie) deja claro la realidad: La diferencia entre los modelos grandes de pesos abiertos de China y los sistemas más avanzados de EE. UU. es de solo meses, no años, y esto solo con proyectos ya divulgados públicamente.

Si el gobierno de EE. UU. utiliza su poder de veto de control de exportaciones para limitar a los laboratorios principales de EE. UU. a publicar sus modelos más potentes, la investigación en IA no se detendrá, solo se trasladará a áreas donde el control no puede alcanzar: proyectos gubernamentales clasificados, laboratorios extranjeros, y el ecosistema de pesos abiertos. Los modelos de código abierto actualmente solo rezagados por unos meses, una vez que el punto de referencia que persiguen deja de iterar, la brecha se cerrará rápidamente. Si la publicación de modelos de vanguardia se restringe a largo plazo, en uno o dos años, el modelo más potente que las personas y empresas comunes puedan implementar localmente probablemente será un proyecto de pesos abiertos fuera de EE. UU.; las barreras de seguridad integradas en dichos modelos serán incluso más débiles que las del producto que el gobierno de EE. UU. ha retirado por la fuerza.

¿Qué haría entonces el gobierno de EE. UU.? Un modelo que ya se ha distribuido ampliamente en miles de discos duros y cientos de redes para compartir archivos no puede ser "retirado". El gobierno podría intentar prohibir la publicación pública de archivos de pesos abiertos, pero esta política entraría directamente en conflicto con la Constitución de EE. UU.

EE. UU. ya ha pasado por un juego regulatorio similar antes y finalmente perdió. En la década de 1990, el gobierno de EE. UU. incluyó la criptografía de alta resistencia en la Lista de Municiones de EE. UU., clasificando el software de cifrado como un arma bajo la Ley de Control de Comercio de Armas Internacionales (ITAR), poniendo los programas de cifrado en la misma categoría regulatoria que los sistemas de puntería láser y las armas de haz de partículas. Durante los siguientes tres años, el gobierno federal investigó a Phil Zimmermann, porque su software PGP (abreviatura de "Pretty Good Privacy") se había extendido globalmente, y el gobierno consideró que subir el código a Internet equivalía a exportar armas. En 1996, las autoridades federales retiraron todas las investigaciones sin presentar cargos.

El fundador de la tecnología de cifrado PGP, Phil Zimmermann

La respuesta de Zimmermann se convirtió en un evento emblemático de esa época. Publicó el código fuente completo de PGP como un libro de tapa dura a través de la MIT Press, con el argumento central de que el código impreso era claramente un discurso protegido, incluso si el mismo código en formato electrónico se consideraba un artículo militar controlado. Los activistas tecnológicos también adoptaron el mismo enfoque, imprimiendo el algoritmo RSA simplificado escrito por el criptógrafo (y futuro participante de Bitcoin) Adam Back en una camiseta, junto con un texto de advertencia — la camiseta en sí misma era un artículo militar.

Los tribunales reconocieron esta lógica legal. En los casos Bernstein y Junger, los jueces federales dictaminaron que el código fuente es un discurso protegido por la Primera Enmienda de la Constitución de EE. UU. En 1996, el gobierno de EE. UU. transfirió la criptografía de la lista de municiones a la supervisión del Departamento de Comercio, relajando significativamente los controles relacionados, y allanando el camino para el próspero desarrollo de la industria de Internet actual.

Moussouris más tarde impulsó la inclusión de una exención para tecnologías de defensa de seguridad en el Acuerdo de Wassenaar, y esta vez también citó esta historia en su respuesta: los pesos del modelo son esencialmente solo una serie de números, y la publicación pública de pesos constituye una expresión del discurso. Si el gobierno prohíbe a gran escala los modelos de código abierto, sin duda desencadenará una batalla judicial intergeneracional de la Primera Enmienda; y el gobierno mismo está en una posición inherentemente desventajosa — EE. UU. ya ha reconocido que capacidades técnicas similares están ampliamente disponibles en el extranjero.

Por lo tanto, este esquema de control de exportaciones tiene un doble fracaso. Primero, no puede frenar a los competidores extranjeros: las instituciones en el extranjero tienen sus propios modelos grandes desarrollados internamente, y según informes del medio tecnológico Semafor, la Casa Blanca sospecha que un grupo vinculado a China ya ha adquirido capacidades relacionadas con Mythos; Segundo, la vía de la IA de vanguardia en EE. UU. se entregará a los modelos de código abierto y competidores extranjeros, sin que EE. UU. tenga medios legales para controlarlos.

Anthropic castigada por su franqueza

Vale la pena señalar que Anthropic ha divulgado información veraz durante todo el proceso. La empresa reconoció que no existe un mecanismo de protección de seguridad perfecto; antes del lanzamiento del producto, realizó miles de horas de pruebas de equipo rojo y azul en conjunto con los gobiernos de EE. UU. y el Reino Unido; y divulgó activamente las limitaciones de su propio sistema de seguridad. Pero esta franqueza se convirtió en la base para que el gobierno la castigara. Si una empresa redujera las pruebas y se callara sobre los riesgos, no sería el objetivo de la supervisión. Cuando la divulgación veraz de riesgos potenciales desencadena sanciones regulatorias, toda la industria se enfrenta a incentivos perversos: todos los fabricantes optarán por divulgar menos riesgos o incluso no divulgar ninguno.

Los profesionales de la seguridad cibernética también señalaron desde otra perspectiva la inversión de esta lógica. Moussouris y los expertos cofirmantes dijeron que la retirada forzada del modelo solo dañaría a los profesionales de seguridad — que dependen precisamente de estas herramientas para encontrar y corregir vulnerabilidades antes de que los atacantes lancen intrusiones, mientras que los atacantes maliciosos no están sujetos a ninguna restricción. Las capacidades del modelo que el gobierno teme son precisamente las herramientas de las que dependen los defensores de seguridad; ambas provienen de la misma fuente y no se puede eliminar solo una.

Argumentos de los partidarios de la orden de control

Objetivamente hablando, algunos informes efectivamente muestran que las preocupaciones del gobierno no son infundadas. A finales de junio, el senador demócrata de Virginia, Mark Warner, citó en una audiencia del Senado el testimonio del director de la Agencia de Seguridad Nacional de EE. UU., Joshua Rudd: en un ejercicio autorizado de equipo rojo y azul, el modelo Mythos casi comprometió todos los sistemas clasificados de la agencia en cuestión de horas (aunque un informe posterior de The Economist suavizó ligeramente esta afirmación). Mythos también es el primer modelo grande en pasar las dos pruebas completas de seguridad cibernética del Instituto de Seguridad de Inteligencia Artificial del Reino Unido.

El modelo ciertamente tiene capacidades técnicas extremadamente fuertes, esto es objetivo. Pero esto solo indica que se necesita un proceso regulatorio riguroso y estandarizado, no una carta confidencial sin una investigación completa emitida un viernes por la noche.

Además, Mythos siempre ha estado abierto solo a socios que han pasado por rigurosas verificaciones de antecedentes. Fable, que fue retirado globalmente esta vez, es la versión para consumidores ordinarios, y sus barreras de seguridad desvían las solicitudes sensibles relacionadas con seguridad cibernética y bioseguridad al modelo más antiguo Opus 4.8. Una versión civil con mecanismos de protección incorporados fue retirada globalmente solo por una demostración de indicaciones defensivas; mientras que la versión profesional, que realmente presenta un riesgo mayor, nunca se ha hecho pública. Esta forma de manejo muestra que el proceso regulatorio confunde los conceptos de "capacidad técnica" y "despliegue público".

Opus 4.8: ¿El último modelo conforme?

Siguiendo esta lógica regulatoria, los resultados no son optimistas. Si Fable no puede cumplir con el estándar, entonces ningún modelo futuro con mejor rendimiento podría pasar la revisión — según los criterios actuales del gobierno, cuanto mayor es el rendimiento, mayor es el riesgo potencial. No existen versiones iterativas como Fable 5.1, Fable 5.2 que puedan mejorar la resistencia a ataques bajo el estándar inalcanzable de "cero vulnerabilidades de jailbreak".

Después de la orden del Departamento de Comercio, solo el modelo más potente, Claude Opus 4.8, mantiene el servicio normal, convirtiéndose en el techo de rendimiento que los ciudadanos estadounidenses pueden usar legalmente. El canal legal para la implementación de nuevas tecnologías de vanguardia se ha cerrado, mientras que los canales extranjeros y no conformes están despejados.

La situación actual es una pérdida para todos: la publicación de modelos de vanguardia nacionales se ha congelado; se está construyendo un sistema de vigilancia de identidad nacional para cumplir con los controles; la vía de la IA de vanguardia se ha entregado a modelos de pesos abiertos y competidores extranjeros sobre los que EE. UU. no tiene autoridad regulatoria. Todo esto podría haberse evitado, y la solución es precisamente el mecanismo regulatorio que Anthropic mismo ha solicitado: si el gobierno quiere prohibir un modelo que realmente presenta riesgos significativos de seguridad, debe basarse en un proceso legal transparente, divulgar completamente las conclusiones técnicas de la investigación, y las empresas deben tener un canal de apelación y defensa. El umbral regulatorio debe centrarse en el incremento de capacidades peligrosas del modelo (es decir, nuevas funciones de alto riesgo en comparación con tecnologías públicas existentes), no en el "riesgo residual cero" imaginado por el gobierno.

Si es necesario establecer un umbral de acceso, el control debe dirigirse a la capacidad técnica en sí misma, no a la verificación de la identidad del usuario. Un sistema regulatorio que solo puede implementarse recolectando las huellas de identidad de todos los usuarios está utilizando las medidas de vigilancia más extremas para resolver un problema de riesgo único y específico.

A nivel del mercado de capitales, la revocación de esta orden también es completamente razonable, y su impacto va mucho más allá de Anthropic. Los "Siete Magníficos" tecnológicos de las acciones estadounidenses actualmente representan aproximadamente un tercio de la capitalización total del índice S&P 500, y alrededor del 42% de todas las ganancias de ese índice en 2025 provinieron de estas siete empresas. La capitalización de mercado de Nvidia superó los 4 billones de dólares en julio de 2025 y alcanzó los 5 billones en octubre, llegando a representar más del 7% de la capitalización total del índice.

Los cuatro principales proveedores de nube han revelado un gasto de capital de aproximadamente 725 mil millones de dólares para 2026, un aumento del 77% en comparación con los 410 mil millones del año anterior; Goldman Sachs predice que el gasto de capital total de los proveedores de nube globales alcanzará los 5,3 billones de dólares para 2030. La inversión de capital relacionada con la IA ya ha impactado profundamente la macroeconomía: diferentes instituciones tienen estimaciones diferentes, Goldman Sachs estima que el gasto de capital en IA representa cerca del 0,8% del PIB de EE. UU., y proyecciones más optimistas creen que el crecimiento económico de EE. UU. a principios de 2026 será impulsado principalmente por la IA.

Las enormes inversiones y las expectativas de crecimiento de la industria se basan todas en una suposición central: que los modelos de vanguardia continúen iterando y desplegándose para los clientes, generando ingresos suficientes para cubrir las enormes inversiones en infraestructura. Esta suposición ahora es precaria. OpenAI ha prometido invertir aproximadamente 1,4 billones de dólares en ocho años, pero sus ingresos actuales son solo de aproximadamente 13 mil millones (Sam Altman no está de acuerdo con la cifra de 13 mil millones, afirmando que los ingresos reales son mucho más altos). Las empresas están aumentando masivamente su infraestructura por adelantado, pero los beneficios de la IA aún no se han reflejado plenamente en los datos macroeconómicos. Los inversores apuestan por el valor terminal a largo plazo, apuestan a que estos sistemas de IA puedan comercializarse a gran escala en el futuro.

Las acciones estadounidenses están altamente vinculadas a la narrativa de crecimiento de la IA; una vez que el ritmo de iteración e implementación de los modelos de vanguardia se desacelere (o incluso se detenga), las carteras de inversión globales sufrirán un fuerte impacto.

La orden de retiro de Fable ha añadido una enorme incertidumbre a toda la industria: ¿normalizará el gobierno de EE. UU. la restricción de la publicación de modelos grandes en el futuro? La lógica anterior es suficiente para demostrar que es muy probable que se implemente una retirada normalizada. Si esto sucede, la lógica de crecimiento que respalda los 725 mil millones de dólares en gastos de capital anuales colapsará por completo, y toda la cadena industrial, tanto ascendente como descendente, sufrirá un impacto en cadena:

• La memoria de alto ancho de banda está en escasez, con pedidos completos para 2026, los precios de DRAM aumentan más del 50% en un solo trimestre, impulsando la capitalización de mercado de SK Hynix más allá de 1 billón de dólares;

• Se está expandiendo a gran escala la energía de cómputo auxiliar, con proveedores de nube incluso firmando contratos con plantas de energía nuclear dedicadas para garantizar el suministro;

• Nvidia, OpenAI, Oracle, CoreWeave y Microsoft se vinculan mutuamente formando un ecosistema de financiamiento circular.

Si un centro de datos construido con una inversión de 200 mil millones de dólares tiene prohibido que su modelo grande asociado proporcione servicios externos por parte del gobierno, no podrá generar ningún retorno de inversión. Sumado a que el mercado de valores depende en gran medida del tema de crecimiento de la IA, si el desarrollo de la IA de vanguardia se desacelera o incluso retrocede, los activos de los inversores globales sufrirán pérdidas.

Más de cien de los principales profesionales de seguridad cibernética de Estados Unidos han pedido conjuntamente que se revoque la orden. Anthropic ha presentado en secreto una solicitud de OPI este mes, con una valoración de mercado estimada de casi 965 mil millones de dólares; ahora, el producto insignia de esta empresa puede ser cerrado por completo por un solo organismo emitiendo un aviso nocturno, sin que la empresa tenga un canal de apelación efectivo.

Este modelo de regulación de IA debe ser abolido a tiempo para evitar que se consolide como una regla regulatoria a largo plazo para la industria de IA en EE. UU. Si este mecanismo se convierte en un marco de gobernanza normalizado, Anthropic, la investigación y desarrollo de IA de toda la industria y la posición de liderazgo tecnológico global de EE. UU. sufrirán graves daños.