Los tres momentos de Anthropic: filtración de código, enfrentamiento con el gobierno y militarización

Autor: Ben Thompson

Traducción: Deep潮 TechFlow

Deep潮 introducción: El nuevo modelo de Anthropic, Fable, fue lanzado hace apenas dos meses y fue detenido de emergencia por el gobierno de Estados Unidos, aparentemente por "filtraciones de seguridad", pero en realidad revela una doble guerra entre laboratorios de IA y el gobierno, y con la industria del software. Esta compañía que se promociona con "seguridad" está convirtiendo la narrativa de seguridad en un foso comercial, mientras que en realidad lo que quieren robar son los datos de usuario que Microsoft y otros tienen en sus manos.

Entiendo la postura de quienes se burlan, que siempre piensan que las declaraciones públicas de Anthropic—especialmente las palabras durante el lanzamiento del modelo—son solo marketing para sembrar pánico. Hace dos meses, Anthropic anunció Mythos Preview, afirmando que ese modelo era demasiado peligroso para ser divulgado públicamente, especialmente por sus potentes capacidades de ciberseguridad. Y ahora, dos meses después, la compañía lanzó públicamente Fable, que es una versión de Mythos con varias barreras de seguridad añadidas.

Por mi experiencia limitada, Fable es realmente un modelo excepcional. Ahora, aparte del rendimiento en programación, es difícil evaluar objetivamente los modelos, pero la percepción subjetiva sigue siendo clara: la interacción con Fable es sumamente buena; hace que otros modelos, incluyendo GPT 5.5 y Opus 4.8, parezcan pequeños e ingenuos. Solo he tenido esa sensación dos veces antes: una con GPT-4 y otra con Grok 4, ambos representan una nueva generación en escala y complejidad de modelos base; creo que Fable proviene de un nuevo preentrenamiento, siendo el primero de una nueva generación.

Por lo tanto, puedo aceptar completamente que Fable/Mythos sea más fuerte en identificar y aprovechar problemas de seguridad, y que la cautela de Anthropic en su lanzamiento sea razonable. Pero el problema de publicar modelos públicamente es que las barreras de seguridad pueden ser vulneradas, y claramente, poco después del lanzamiento, esto ocurrió.

Anthropic vuelve a enfrentarse al gobierno de EE. UU.

Lo que sucedió a continuación no está muy claro. Anthropic escribió en su blog:

El gobierno de EE. UU. invocó poderes de seguridad nacional, emitió una orden de control de exportaciones, y suspendió el acceso de todos los ciudadanos extranjeros a Fable 5 y Mythos 5, tanto dentro como fuera de EE. UU., incluyendo empleados extranjeros de Anthropic. La orden efectivamente significa que debemos desactivar repentinamente Fable 5 y Mythos 5 para todos los clientes para garantizar el cumplimiento. El acceso a otros modelos de Anthropic no se ve afectado.

Recibimos la orden del gobierno hoy a las 17:21 hora del este. No se proporcionaron detalles específicos sobre las preocupaciones de seguridad nacional. Entendemos que el gobierno cree que ya se han descubierto formas de evadir o "hacer jailbreak" a Fable 5. Revisamos una demostración que identifica unas pocas vulnerabilidades menores conocidas con esa técnica específica. Esas vulnerabilidades parecen relativamente simples, y encontramos que otros modelos disponibles públicamente también pueden detectarlas sin necesidad de evadir.

Luego, Anthropic argumenta que los jailbreaks no universales son inevitables y limitados en alcance, y que no hay evidencia de jailbreaks universales; además, las vulnerabilidades descubiertas parecen ser reportadas por Amazon, lo cual es notable porque Amazon es tanto inversor en Anthropic como el principal proveedor de servicios de inferencia de la compañía. Cuando escribo esto, los ejecutivos de Anthropic están en Washington, intentando resolver un problema que insisten en que es un malentendido, mientras que funcionarios de la Casa Blanca sugieren que los líderes de la compañía no se preocupan por las preocupaciones legítimas de seguridad nacional.

Dado que hay demasiados hechos en disputa, no tengo mucho que agregar sobre el conflicto actual; pero no me sorprende que esté ocurriendo: ya expliqué en mi artículo "Anthropic y la alineación" que el conflicto entre el gobierno de EE. UU. y Anthropic era inevitable. En ese sentido, quienes piensan que Mythos aún no es lo suficientemente potente como para que el gobierno actúe con dureza, están perdiendo el foco: si todavía no es lo suficientemente fuerte, el próximo será, o el siguiente, especialmente ahora que los modelos se vuelven cada vez más útiles para crear sucesores.

Pero esto plantea otra cuestión—una que parece confirmar la opinión de los escépticos: si Mythos es tan peligroso, ¿por qué lanzar Fable en primer lugar, por qué desafiar al gobierno haciendo lo que dicen querer? En realidad, creo que la conducta de Anthropic es completamente comprensible; lo que la hace interesante es cómo justifican esas acciones, y esas justificaciones son las que alimentan tanto a los escépticos como a la magia de Anthropic.

La inevitabilidad económica

En los primeros años de la IA, la mayor parte del valor económico se dirigió a la computación, por razones evidentes: no había suficiente oferta para satisfacer la demanda, lo que disparó los precios; los mayores beneficiados fueron Nvidia, TSMC y los fabricantes de memoria (SK Hynix, Samsung y Micron). Mientras tanto, Anthropic y OpenAI perdieron en conjunto cientos de miles de millones de dólares en construir modelos de vanguardia, que una vez lanzados, son distilados y comercializados como modelos de código abierto, principalmente desde China.

Esto representa la situación pesimista de los laboratorios: que nunca podrán cubrir sus costos, porque su diferenciación es momentánea, y las alternativas gratuitas se vuelven "suficientemente buenas"—lo cual creo que es razonable. En un mundo donde los modelos son intercambiables, los modelos se vuelven commodities, y la mayor parte del valor fluye a otros lugares. Ahora, es la computación, pero con el tiempo, cuando tengamos suficiente poder de cálculo, la posición más valiosa en la cadena de valor será siempre la misma: tener contacto con los usuarios.

Por eso, los laboratorios de vanguardia tienen una inevitabilidad económica de acercarse a los usuarios, y eso siempre me ha quedado claro. Si tienes contacto con los usuarios, tienes un bloqueo significativo, y la mejor forma de tener ese contacto es ser la plataforma para todo lo que necesitan hacer. Esto lleva a un conflicto con las empresas de software: el software tiene contacto con los usuarios, y los laboratorios de vanguardia no quieren ser solo insumos para software, sino reemplazarlos directamente.

Mientras tanto, las empresas de software están haciendo lo contrario. Satya Nadella, en un artículo en X, expresó su visión sobre cómo deberían construir los modelos:

Cada empresa debe construir lo que llamo capital humano y capital de tokens. El capital humano incluye el conocimiento, juicio, relaciones, creatividad y reconocimiento de patrones de sus empleados, y el capital de tokens es la capacidad de IA que la empresa construye y posee. Lo importante es que, a medida que crece el capital de tokens, el capital humano no se vuelve menos valioso. ¡Solo se vuelve más valioso! Creo que la iniciativa humana será el motor del crecimiento del capital de tokens. La gente establecerá metas ambiciosas, conectará puntos entre diferentes áreas, construirá relaciones y reconocerá los patrones más importantes. Sin guía humana, tu poder de cálculo solo está en modo de espera.

Esto significa que la verdadera oportunidad no está en elegir el mejor modelo, sino en construir un ciclo de aprendizaje sobre él, para que tanto el capital humano como el de tokens crezcan en interés compuesto. Puedes externalizar una tarea o un trabajo, pero nunca puedes externalizar tu aprendizaje. El futuro de las empresas será aquella que pueda hacer que ese aprendizaje crezca en interés compuesto entre humanos y IA. Esto requiere una nueva arquitectura que permita a cada empresa construir sistemas inteligentes que mejoren con el tiempo, manteniendo el control sobre su propiedad intelectual. Las empresas deberían poder reemplazar modelos "generales" sin perder el conocimiento especializado "de la empresa" que ya han incorporado en su sistema de aprendizaje. Esa será la prueba clave del control y soberanía en el futuro.

Nadella inicia esta visión con una advertencia:

Lo que no queremos ver es un mundo donde cada empresa en cada industria entregue su valor a unos pocos modelos que devoran todo. Si todo el valor solo lo obtienen unos pocos modelos, la política y la economía no lo tolerarán. Para un futuro de IA que vacíe toda una industria, la sociedad no dará permiso.

Piensa en lo que ocurrió en la primera fase de la globalización, cuando toda la economía industrial fue externalizada y vaciada. A simple vista, los números del PIB parecen buenos, pero la deslocalización es real, y las consecuencias todavía se sienten. No llevemos esa dinámica a la era de la IA, donde unos pocos sistemas capturan toda la recompensa económica, y toda la industria descubre que su conocimiento ha sido convertido en mercancía justo frente a sus ojos.

El problema con esta analogía es que: la globalización sí ocurrió, y la economía industrial fue vaciada. Puede que no sea solo una advertencia, sino una profecía; no es de extrañar que Nadella esté en alerta, porque Microsoft podría ser una de las víctimas. Igualmente, la inevitabilidad económica de los modelos es precisamente para lograr esto.

La inevitabilidad de los datos

Estos modelos—incluso Mythos—todavía no han llegado a ese punto. Lo que necesitan, además de más poder de cálculo, son datos mejores y en mayor cantidad. La mejora de modelos cada vez proviene más del aprendizaje reforzado; algunos pueden ser sintéticos, pero la palanca más poderosa para los laboratorios de vanguardia es el uso en el mundo real.

Creo que esa es la principal razón por la que OpenAI y Anthropic ofrecen planes de suscripción con grandes subsidios. SemiAnalysis estimó recientemente que un plan de 200 dólares puede dar acceso a tokens de Claude por valor de 8,000 dólares y a tokens de Codex por valor de 14,000 dólares. Por supuesto, ambos compiten por la cuota de mercado de usuarios y desarrolladores, pero también compiten por el acceso a datos de uso real para mejorar sus modelos.

Anthropic ha aumentado significativamente su inversión en Fable, anunciando que conservarán todos los datos de uso durante 30 días, incluso en planes empresariales que previamente prometían no retener datos. La compañía dice que no usará esos datos para entrenar, pero no ha establecido garantías para que en el futuro no lo hagan (por ejemplo, almacenando datos en terceros). Si esta política cambia (cuando Fable vuelva a estar en línea) y no provoca una pérdida masiva de clientes, sospecho que solo es cuestión de tiempo antes de que comiencen a usar los datos: para ellos, es demasiado valioso.

También hay que tener en cuenta el ciclo virtuoso de subir a contacto con los usuarios: cuanto más trabajo se realice con Claude o Codex, más datos que pueden retroalimentar el entrenamiento obtendrán las empresas, haciendo sus productos más fuertes y útiles, ampliando la cantidad de flujos de trabajo que pueden atender y, en consecuencia, su acceso a datos.

Nadella enfatizó en su artículo la importancia de estos datos, pero cree que deben ser independientes del modelo:

Las empresas necesitan transformar los flujos de trabajo, el conocimiento del dominio y el juicio acumulado en sistemas de IA que mejoren con cada uso. La evaluación privada debe captar si el modelo realmente mejora en resultados importantes para el negocio (¡no solo en métricas externas!). Los entornos de aprendizaje reforzado privados deben hacer que los modelos sean más fuertes en las trayectorias reales dentro de la organización. Su base de conocimientos permite que la memoria institucional sea consultable, y el uso de tokens sea más eficiente.

Este ciclo se convierte en la nueva propiedad intelectual de la compañía. Lo veo como una máquina de escalar montañas. A diferencia de la mayoría de los activos, es de interés compuesto. Cada flujo de trabajo mejorado genera mejores señales de entrenamiento, acelerando la acumulación de conocimiento tácito único de la empresa. Las que construyan esto temprano tendrán una ventaja difícil de copiar, sin importar qué capacidades tenga un modelo en el futuro.

Este ciclo se vuelve la nueva IP de la compañía. Lo veo como una máquina de escalar montañas. A diferencia de la mayoría de los activos, puede crecer en interés compuesto. Cada proceso de trabajo mejorado genera mejores señales de entrenamiento, acelerando la acumulación de conocimiento tácito de la empresa. Las que establezcan esto primero tendrán una ventaja difícil de replicar, sin importar qué mejoras tenga un modelo en el futuro.

Pero, ¿y si las empresas que cumplen con la política de datos de Anthropic ya obtienen mejores resultados? ¿O si las empresas existentes resisten, dejando a nuevas empresas—o a los propios fabricantes de modelos—la oportunidad de superarlas en el mercado? Anthropic está poniendo a prueba la determinación que Nadella ha llamado a defender.

La demanda de poder

Lo que rodea la política de retención de datos de Fable/Mythos, ni siquiera es la parte más controvertida del lanzamiento. Al contrario, Anthropic dijo en su lanzamiento que si Fable se usaba para desarrollar LLM, reducirían silenciosamente su rendimiento; en la ficha del sistema se lee:

También hemos añadido medidas de protección relacionadas con el desarrollo de los últimos LLM. Como se discute en la sección 6.1 del informe de riesgos de febrero de 2026, estamos preocupados por los riesgos de acelerar el desarrollo general de IA, aunque aún no podemos determinar la gravedad de estos riesgos. En particular, nuestra preocupación—como escribimos en ese momento—es que "acelere a otros desarrolladores de IA a construir sistemas de IA poderosos similares a los nuestros, con riesgos similares, pero sin las medidas de protección correspondientes."

Dado que los modelos recientes tienen la capacidad de acelerar su propio desarrollo, hemos implementado nuevas medidas de intervención que limitan la efectividad de Claude en solicitudes relacionadas con el desarrollo de los últimos LLM (como construir pipelines de preentrenamiento, infraestructura de entrenamiento distribuido o diseñar aceleradores de ML). Usar Claude para desarrollar modelos competidores ya violaba nuestros términos de servicio, pero aplicar estas medidas de protección para hacer cumplir esa restricción puede evitar acelerar a quienes están más dispuestos a violar esas reglas.

A diferencia de nuestras intervenciones en ciberseguridad, bioquímica y destilación, estas medidas de protección no son visibles para los usuarios. Fable 5 no retrocede a otro modelo. En cambio, las medidas limitan la efectividad mediante instrucciones, vectores de guía o ajuste fino eficiente (PEFT). Estas intervenciones no afectarán la mayoría de los trabajos de programación. Estimamos que afectarán aproximadamente al 0.03% del tráfico, concentrado en menos del 0.1% de las organizaciones. Cuando estas medidas entren en vigor, esperamos que solo limiten la efectividad en el desarrollo de los últimos LLM, y que tengan un impacto mínimo en el comportamiento del modelo. Claude seguirá respondiendo útilmente a las solicitudes de los usuarios. Seguiremos mejorando la precisión de detección tras el lanzamiento del modelo.

Anthropic retiró esta medida—Fable transferirá las solicitudes relacionadas con LLM a Opus 4.8 y notificará a los usuarios de esa transferencia—pero creo que la política inicial fue muy ilustrativa. Por un lado, no culpo a Anthropic por no querer ayudar a la competencia; por otro, está claro que Anthropic piensa que nadie más que ellos debería crear los últimos LLM.

Lo más llamativo de esta política es que fue promulgada solo dos meses después de un conflicto con el Departamento de Defensa: este último quería usar Claude para cualquier uso legal, mientras que Anthropic buscaba imponer controles más estrictos sobre vigilancia y armas autónomas. Estas medidas de degradación muestran que Anthropic puede modificar silenciosamente sus modelos para cumplir con sus políticas, y que está dispuesto a hacerlo. En otras palabras, Anthropic ha confirmado que algunos críticos tenían razón en que es una fuente de riesgo en la cadena de suministro.

Pero la conclusión más amplia de ese incidente es que Anthropic cree que debe tener la última palabra sobre cómo se usa su tecnología; dado que creen que solo ellos deben desarrollar la IA de vanguardia, en realidad piensan que solo ellos deben tener el control final sobre la IA en general. Cuando combinas esto con su declaración de que la IA puede realizar toda actividad económica, te das cuenta de que la dirección de Anthropic realmente quiere tener poder sobre todo y todos.

Narrativa de seguridad

Por supuesto, Anthropic nunca lo diría tan abiertamente; en cambio, su narrativa gira en torno a la seguridad:

Preveo que Anthropic cada vez más ofrecerá sus capacidades a los usuarios finales a través de endpoints cada vez más personalizados para diferentes flujos de trabajo, incluso si comienzan a limitar la API. Esta sustitución del software y las restricciones de acceso se harán en nombre de la seguridad, incluso si Anthropic busca cumplir con sus intereses económicos de acercarse a los usuarios finales.

La explicación de los cambios importantes en su política de retención de datos es la seguridad. Específicamente, la compañía afirma que retener todos los datos de usuario durante 30 días es necesario para prevenir las evasiones de jailbreak que preocupan al gobierno de EE. UU. Por supuesto, puedo imaginar un futuro en el que las consideraciones de seguridad también obliguen a entrenar con esos datos, para prevenir usos maliciosos.

Toda la historia de origen de Anthropic está arraigada en la creencia de sus fundadores de que OpenAI no toma en serio la seguridad; que solo ellos pueden controlar la IA, y que, por ser los únicos que se preocupan genuinamente por la seguridad, tienen derecho a intentar controlar a todos los demás, incluyendo al gobierno de EE. UU.

Sobre esas razones de seguridad, el problema es que: creo que son efectivas solo porque para Anthropic no lo son. La compañía realmente cree que son los únicos que creen en la superinteligencia, y por eso son los únicos que se preocupan lo suficiente por el peligro. Eso justifica una serie de decisiones, políticas y enfrentamientos, que para el exterior parecen una combinación de cinismo y ingenuidad.

En comparación con OpenAI, la diferencia es enorme: creo que una forma de entender cómo y por qué OpenAI perdió su liderazgo es que, en los años posteriores a ChatGPT, la compañía estuvo en conflicto interno, y su antiguo laboratorio de investigación fue repentinamente asignado a convertirse en una empresa de consumo accidental; en ese proceso, OpenAI perdió talento hacia empresas como Anthropic.

Por otro lado, Anthropic mantiene una coherencia perfecta entre talento, misión y negocio. La compañía puede vender a los investigadores la visión de crear una deidad de la máquina, con el halo de preocuparse por el peligro y ser lo suficientemente inteligente para que la humanidad pueda hacer frente a esos peligros; y cada cambio de política que surge de ello resulta ser beneficioso para el negocio, en la forma más maravillosa de coincidencia.

Respeto esa coherencia, pero también la temo. La respeto porque claramente funciona muy bien; la analogía más cercana sería Apple, que siempre disfraza cada acción egoísta con la excusa de que los usuarios hacen lo correcto—y, en muchos casos, realmente lo hacen. Anthropic también. Pero lo que me preocupa es que dejar que los que creen saber más que nadie construyan un teléfono inteligente que puedo aceptar o rechazar, es una cosa; que construyan una superinteligencia con potencial para desafiar o superar el poder de las naciones o simplemente de grandes corporaciones, es mucho más inquietante. La historia de los inteligentes que creen saber qué necesita la humanidad es sucia, porque se convencen a sí mismos de que sus intenciones son buenas, y eso les da justificación para acciones que en realidad no lo son.