Estados Unidos impulsa la revisión «voluntaria» de los modelos de IA, ¿por qué Meta no firma?

robot
Generación de resúmenes en curso

Resumen
· Según informes de medios, el gobierno de Trump está promoviendo que Meta participe en un acuerdo voluntario de revisión de modelos de IA de vanguardia.
· La EO 14409 exige diseñar un marco voluntario en 60 días, permitiendo a los desarrolladores un acceso máximo de 30 días antes del lanzamiento.
· Este mecanismo no es una aprobación obligatoria, pero el incidente de Anthropic muestra que el acceso a los modelos puede verse afectado por juicios de seguridad.

Según informes de medios, el gobierno de Trump está instando a Meta a someter sus modelos de IA de vanguardia a una revisión voluntaria por parte del gobierno federal, siendo Meta una de las pocas excepciones entre los principales desarrolladores de IA en EE. UU. Para las empresas de IA, esto no es un sistema de aprobación tradicional, pero afectará cómo se someten a pruebas de seguridad los modelos más potentes antes de su publicación pública, qué capacidades puede ver el gobierno con anticipación, y si el acceso a los modelos será ajustado en caso de riesgos de seguridad nacional relacionados con redes, biología, armas químicas, etc. Se informa que empresas como OpenAI, Anthropic, Google, xAI y Microsoft han acordado colaborar con agencias del Departamento de Comercio, por lo que las negociaciones con Meta han sido amplificadas.

Este contacto se centra principalmente en el Centro de Estándares e Innovación en IA de EE. UU. (CAISI). CAISI, dependiente del Departamento de Comercio y NIST, fue reorganizado en junio de 2025 por el Instituto de Seguridad en IA de EE. UU. durante la administración de Biden, con un enfoque mayor en acuerdos voluntarios, estándares de prueba y evaluaciones de riesgos de seguridad nacional. La página oficial de CAISI indica que establecerá acuerdos voluntarios con desarrolladores privados de IA y realizará evaluaciones no confidenciales que puedan involucrar riesgos de seguridad nacional.

Desde Meta, afirman que su equipo de políticas está en discusión con el Departamento de Comercio sobre los detalles del acuerdo, con la esperanza de firmarlo pronto. El Departamento de Comercio describe estos contactos como parte del trabajo rutinario entre CAISI y las empresas de IA. La verdadera diferencia no radica en si se prueba un modelo, sino en si, tras firmar el acuerdo, los futuros lanzamientos de Meta serán incorporados en un proceso de evaluación gubernamental más estructurado.

Meta se ha convertido en el observador más destacado

Meta ha sido puesta en primer plano principalmente porque los principales laboratorios de IA en EE. UU. están estableciendo colaboraciones de revisión con el gobierno. Según informes de medios citando fuentes, OpenAI, Anthropic, Google, xAI y Microsoft ya han acordado presentar sus modelos a CAISI, mientras que Meta aún no ha firmado un acuerdo similar. Dado que la lista completa no ha sido publicada oficialmente, esta afirmación debe considerarse como una versión de los medios.

Los modelos de vanguardia ya no son solo chatbots o herramientas de generación de contenido. Los sistemas más potentes pueden ayudar a investigadores a detectar vulnerabilidades en software, generar código automáticamente, llamar a herramientas externas, o incluso ser mal utilizados para crear herramientas de ataque. El gobierno busca evaluar previamente estos límites de capacidad antes de una publicación más amplia.

Los planes recientes de modelos de Meta también han atraído atención. Se informa que en abril, la compañía lanzó un nuevo modelo llamado Muse Spark, enfocado en razonamiento multimodal y uso de herramientas. Dado que los detalles aún no han sido completamente confirmados en esta ronda de revisión pública, lo más prudente es decir que Meta sigue avanzando en las capacidades de su próxima generación de modelos, mientras el gobierno busca incluir estos modelos en un marco de evaluación previa a la publicación.

Para Meta, firmar el acuerdo ayuda a reducir fricciones con el gobierno y también puede introducir nuevas incertidumbres en los lanzamientos. La compañía necesita negociar en aspectos como el alcance de la revisión, protección de secretos comerciales, permisos de acceso y fechas de lanzamiento.

La ventana de evaluación de 30 días no es una aprobación, pero puede afectar el ritmo de publicación

La EO 14409, publicada por la Casa Blanca el 2 de junio, establece un marco más claro. La orden ejecutiva requiere que las agencias diseñen en 60 días un marco voluntario que permita a los desarrolladores, antes de una publicación más amplia, proporcionar a las autoridades federales un acceso máximo de 30 días a los "modelos de frontera cubiertos" para evaluación de seguridad.

Este decreto también especifica que no debe interpretarse como una licencia obligatoria, preevaluación o sistema de aprobación. En otras palabras, el gobierno de EE. UU. no está transformando la publicación de modelos de frontera en un sistema de licencias formal, y al menos en el nivel textual, sigue enfatizando la voluntariedad y la evaluación de seguridad.

Pero la ventana de 30 días puede cambiar la última fase previa a la publicación. Para las empresas de IA, lanzar un modelo se asemeja cada vez más a una competencia comprimida en semanas o incluso días, donde retrasos pueden afectar la presencia en el mercado, las pruebas con clientes empresariales, el ecosistema de desarrolladores y las narrativas de financiamiento. Aunque no sea una aprobación, si la evaluación gubernamental implica comunicación adicional, modificaciones o restricciones de acceso, el cronograma de lanzamiento será más difícil de gestionar.

Lo que aún no está claro es si, en caso de que el gobierno detecte riesgos durante la evaluación, las empresas deberán retrasar el lanzamiento, limitar el acceso a ciertos usuarios o ajustar las capacidades del modelo. También se debe esperar a que el marco voluntario se implemente completamente antes de principios de agosto, para entender si los modelos de diferentes empresas serán tratados bajo estándares unificados.

El incidente de Anthropic hace que la "voluntariedad" sea más sensible

El caso de Anthropic es la prueba de estrés más realista de este mecanismo. Según AP, el gobierno de EE. UU. solicitó a Anthropic que impidiera a ciudadanos extranjeros usar los modelos Fable 5 y Mythos 5, y Anthropic cerró el acceso a todos sus clientes para cumplir con la orden.

Una preocupación central es que, según informes relacionados con Amazon, Mythos pudo identificar vulnerabilidades en software durante las pruebas. Pero AP también señala que esto no significa que el modelo pueda explotar esas vulnerabilidades para lanzar ataques. Desde Anthropic, enfatizan que esas capacidades no son exclusivas de sus modelos y que sistemas similares también pueden usarse con fines defensivos.

Axios informa que los informes de Amazon y las vulnerabilidades aumentaron las preocupaciones del gobierno. En una entrevista posterior con Axios, Trump afirmó que ya no considera a Anthropic una amenaza de seguridad, y que las relaciones entre ambos se han suavizado.

Este caso deja una pregunta clara para la industria de IA: si el acuerdo de revisión es formalmente voluntario, ¿puede una empresa negarse a limitar el acceso si el gobierno determina que cierta capacidad representa un riesgo de seguridad nacional? Si no puede, la evaluación voluntaria en la práctica se acerca a una restricción previa a la publicación.

Las negociaciones de Meta se estancan en los límites de la intervención gubernamental

El problema actual de Meta radica en que ambas opciones tienen costos. Sin firmar el acuerdo, seguirá siendo uno de los observadores más destacados entre las principales empresas de IA en EE. UU., y será comparada con reguladores y competidores. Firmarlo, por otro lado, implica aceptar un proceso de evaluación gubernamental aún en desarrollo, lo que podría añadir incertidumbre a futuros lanzamientos.

Si el marco se limita principalmente a pruebas de seguridad, compartición de vulnerabilidades y evaluaciones no confidenciales, es probable que las empresas integren esto en su proceso de cumplimiento previo al lanzamiento. Pero si la evaluación gubernamental puede impulsar suspensiones, restricciones o requerimientos de modificación, el ritmo de publicación de modelos de frontera será mucho más impredecible.

El impacto de estas negociaciones no solo afecta a Meta. Empresas como OpenAI, Google, Anthropic, xAI, Microsoft y Meta están acelerando la competencia en capacidades de modelos, mientras que el gobierno busca adelantar la evaluación de seguridad a antes del lanzamiento público. Lo que aún no está claramente definido es el límite entre la evaluación de seguridad gubernamental y la autonomía de las empresas para publicar a su criterio.

Ver original
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
  • Recompensa
  • Comentar
  • Republicar
  • Compartir
Comentar
Añadir un comentario
Añadir un comentario
Sin comentarios