CEO de Anthropic: El gobierno debe tener el poder de vetar IA de alto riesgo, realizar pruebas obligatorias antes del lanzamiento, las tres principales propuestas chocan con la línea de flexibilización de Trump

CEO de Anthropic, Dario Amodei, publica un artículo extenso, llamando a los gobiernos a legislar para obligar a realizar pruebas de terceros en modelos de IA potentes, y compara la IA con la aviación comercial, que debe estar sujeta a regulaciones similares a las de la FAA. Sus tres principales propuestas cubren los umbrales de despliegue, la seguridad en la red y la sustitución laboral.
(Resumen previo: Claude tiene el 80% de su código escrito por sí mismo, ¿Anthropic realmente pide una "mecanismo de freno global"?)
(Información adicional: Dario Amodei, CEO de Anthropic: en 6-12 meses, los modelos de IA de código abierto en China podrán alcanzar a Mythos)

Índice de este artículo

Alternar

• Las tres principales propuestas: umbrales, armas, sustitución
• ¿Por qué ahora, la lógica y límites de la comparación con la FAA?
• Contra la relajación de las políticas de Trump

Justo el día anterior lanzaron su modelo general más potente, y al día siguiente dicen que la IA es demasiado peligrosa y que el gobierno debería legislar para controlarla. Este es el mensaje que Dario Amodei, CEO de Anthropic, lanza hoy (11) al círculo global de políticas tecnológicas. En su largo artículo 〈Policy on the AI Exponential〉, por primera vez en su rol de máximo líder de la empresa, hace un llamado público a la intervención gubernamental, proponiendo que la publicación de modelos de IA de frontera tenga regulaciones con fuerza legal.

La analogía que cita es la de la aviación comercial: los aviones deben pasar por la revisión de seguridad de la FAA (Administración Federal de Aviación de EE. UU.), y lo mismo debería aplicarse a los modelos de IA. Amodei en X (antes Twitter) dice:

「Anthropic ha defendido durante mucho tiempo la transparencia en los modelos de frontera de IA, porque los riesgos aún no eran lo suficientemente claros para una regulación precisa. Pero eso ya no es suficiente.」

Anthropic has long advocated for transparency requirements for frontier AI, because the risks weren't yet clear enough to regulate precisely. That is no longer sufficient.

— Dario Amodei (@DarioAmodei) 10 de junio de 2026

Las tres principales propuestas: umbrales, armas, sustitución

El primer punto del marco avanzado para IA es establecer un umbral cuantitativo obligatorio para pruebas de terceros: entrenamiento con más de 10^25 FLOPs (operaciones de punto flotante, en términos simples, la cantidad de cálculo en el entrenamiento del modelo), o empresas con ingresos anuales en IA superiores a 500 millones de dólares, o gastos en I+D en IA superiores a 1,000 millones de dólares, deben someter sus modelos a auditorías independientes antes de su lanzamiento.

Las pruebas se enfocan en cuatro áreas de riesgo: ciberseguridad, armas biológicas, pérdida de control de sistemas de IA, y automatización que pueda acelerar estos riesgos. Amodei dice: 「Los modelos de frontera de IA, como los aviones, deben ser sometidos a pruebas técnicas y auditorías; si no cumplen con altos estándares de seguridad, su lanzamiento debe considerarse una amenaza a la seguridad pública y ser bloqueado o retirado.」 El gobierno, bajo este marco, tendría autoridad legal para bloquear, retrasar o desalentar despliegues.

El segundo punto sitúa a la IA como un problema clave de infraestructura de ciberseguridad. Amodei cita directamente a Claude Mythos Preview, su propio modelo, que ya puede detectar vulnerabilidades críticas en sistemas operativos principales, lo que indica que las capacidades de ataque y defensa están en aumento. El marco exige que los desarrolladores de frontera protejan los “pesos del modelo” (los parámetros centrales almacenados tras el entrenamiento, que si se roban equivalen a copiar todo el modelo) contra ataques externos o internos, y establezcan canales legales para reportar “ataques de destilación de modelos”.

El tercer punto es el más políticamente sensible: reconocer explícitamente la sustitución estructural de trabajo. La política económica del marco afirma que, si la IA alcanza los niveles de capacidad previstos, será “un reemplazo completo de la fuerza laboral”, no solo una herramienta de productividad. Se simulan escenarios con tasas de desempleo del 5%, 10% o incluso más extremas, y se proponen mecanismos como seguros de salario, ingreso básico universal (UBI) y fondos soberanos para mitigar estos efectos.

Para respaldar estas propuestas, Anthropic anuncia una inversión de 350 millones de dólares: 200 millones en un “Fondo para el Futuro Económico” para pilotos de políticas públicas, y 150 millones en un programa nacional de becas. Amodei concluye: 「El mayor desafío no es incentivar el crecimiento, sino encontrar formas en que todos puedan compartir los beneficios.」

¿Por qué ahora, la lógica y límites de la comparación con la FAA?

Este marco se publica en un momento con dos contextos principales.

Primero, el ritmo tecnológico. La argumentación de Amodei es que: en el pasado, debido a que el perfil de riesgo aún no era claro, no era momento de una regulación precisa; ahora, con Mythos Preview capaz de detectar vulnerabilidades activamente, la razón de “falta de claridad” ya no aplica. Usan su propio modelo como base para la legislación, lo cual tiene cierta lógica, pero también implica que a medida que los modelos se vuelven más potentes, la urgencia de legislar aumenta.

El segundo contexto es la frontera de la comparación con la FAA. La regulación en aviación comercial es clara: los aviones que fallan tienen una cadena causal física definida, los estándares de prueba son cuantificables, y la responsabilidad en accidentes puede atribuirse. La peligrosidad de los modelos de IA, en cambio, aún depende mucho de la evaluación subjetiva, la definición de “frontera” se desplaza cada pocos meses, y la confianza en instituciones de prueba independientes todavía no está establecida. La comparación con la FAA, aunque atractiva, tiene límites: aplicar un marco maduro de regulación industrial a un campo en rápida evolución y con fronteras difusas presenta desafíos técnicos y políticos que no son menores.

Amodei también admite que este marco es solo un punto de partida, no la solución definitiva.

Contra la tendencia de flexibilización bajo Trump

La política actual en EE. UU. favorece la desregulación: la postura de Trump fue permitir un crecimiento “salvaje” de la IA, para competir con China, incluso promoviendo la eliminación de obstáculos regulatorios a nivel estatal y local.

Amodei, en cambio, pide reforzar la regulación, enfrentándose a esa corriente. En su cierre, busca un lenguaje bipartidista: 「Estas ideas políticas tienen un atractivo de sentido común en ambos lados del espectro político; cuanto antes actuemos, antes todos podrán beneficiarse de la IA.」 Sin embargo, si ese “sentido común” puede traducirse en legislación efectiva, en el actual ecosistema político de Washington, sigue siendo una incógnita.