El jefe de DeepMind propuso probar los modelos de IA de vanguardia antes del lanzamiento - ForkLog

# El jefe de DeepMind propuso verificar los modelos de IA de vanguardia antes del lanzamiento

El jefe de Google DeepMind, Demis Hassabis, propuso crear en EE. UU. un organismo de estándares para evaluar las IA más potentes antes de su lanzamiento. Según su estimación, la inteligencia artificial general (AGI) podría surgir «en unos pocos años», y su impacto sería comparable al descubrimiento de la electricidad o el fuego.

https://t.co/PTeDiv1b6L

— Demis Hassabis (@demishassabis) 14 de julio de 2026

Por AGI, Hassabis entiende un sistema que posee todas las capacidades cognitivas del cerebro humano. En su opinión, esta tecnología no puede compararse ni siquiera con internet o la telefonía móvil.

«Cuando miremos atrás a este momento en las próximas décadas, creo que entenderemos que estábamos al pie de la singularidad: no otra cosa que el comienzo de una nueva era para la humanidad», escribió Hassabis.

El jefe de DeepMind considera que la AGI podrá acelerar el desarrollo de medicamentos, nuevas fuentes de energía limpia y materiales avanzados. Al mismo tiempo, señaló que las capacidades de la IA avanzan más rápido de lo que se comprende los riesgos asociados.

Los modelos avanzados actuales ya crean amenazas en el ámbito de la ciberseguridad. A medida que crezcan sus capacidades, podrían intensificarse riesgos biológicos, nucleares y otros. Hassabis también advirtió sobre la aparición de sistemas más autónomos capaces de ejecutar secuencias de acciones complejas y perfeccionarse de manera recursiva. Para mantener el control sobre ellos, se requerirán medidas técnicas de protección adicionales.

Un nuevo órgano definirá los modelos de vanguardia

Hassabis propuso crear el Frontier AI Standards Body, siguiendo el modelo de FINRA. La nueva estructura podría funcionar como una asociación público-privada o como una organización autorregulada con supervisión federal. Debería financiarse principalmente con la industria de la IA.

Se propone incluir en la dirección a expertos técnicos independientes y representantes de la comunidad de código abierto. El organismo desarrollará protocolos de evaluación junto con las agencias federales y los laboratorios nacionales de EE. UU.

Las pruebas especiales deberían determinar si el modelo pertenece a la categoría de vanguardia. Los ensayos cubrirán la ciberseguridad, amenazas biológicas y otras áreas de riesgo elevado. Controles separados identificarán intentos de los modelos para eludir limitaciones de protección, engañar a los usuarios o ocultar sus acciones.

La verificación podría volverse obligatoria

En la primera etapa, las empresas entregarían voluntariamente los modelos de vanguardia para su verificación con al menos 30 días de antelación al lanzamiento.

Tras confirmar la eficacia del sistema, el procedimiento podría codificarse legalmente. Entonces, los modelos de vanguardia tendrían que superar con éxito la evaluación antes de su lanzamiento en el mercado estadounidense. Hassabis también propuso crear un mercado de auditores independientes y usar el sistema estadounidense como base para futuros estándares internacionales.

En junio, el presidente de EE. UU., Donald Trump, firmó un decreto sobre la verificación voluntaria de las capacidades de ciberseguridad de los modelos de IA de vanguardia. Las empresas podrán dar a las autoridades acceso a ellos durante un máximo de 30 días antes de transferirlos a socios externos de confianza. El documento prohíbe expresamente interpretar este mecanismo como una concesión obligatoria de licencias o la obtención de un permiso previo para lanzar modelos.

En el propio ensayo, Hassabis reconoció que el desarrollo adicional de la tecnología sigue siendo incierto e incluso los especialistas discrepan.

Anteriormente, los medios informaron que la administración de Trump pidió a OpenAI que no lanzara GPT-5.6 de inmediato al público en general debido a preocupaciones sobre la seguridad. La empresa de Sam Altman primero proporcionó el modelo a un número limitado de clientes.

En julio, el secretario general de la ONU, António Guterres, pidió introducir reglas generales para los sistemas de IA de vanguardia, proteger a los niños de los riesgos de los chatbots, prohibir sistemas letales autónomos de armas y ampliar el acceso de los países en desarrollo a los recursos informáticos.

Recordemos que en julio, los participantes de la marcha en San Francisco exigieron a OpenAI, Anthropic y Google DeepMind suspender de forma coordinada el entrenamiento de modelos más potentes. Los recursos liberados, propusieron destinarlos a la seguridad.

En el mismo mes, el ex investigador de OpenAI Daniel Kokotajlo propuso frenar la carrera de la IA hasta 2040.