Un ex empleado de OpenAI propuso frenar la carrera de la IA hasta el año 2040 — ForkLog

# Un ex empleado de OpenAI propuso frenar la carrera de la IA hasta 2040

Los autores del pronóstico sobre la extinción de la humanidad debido a la IA publicaron un nuevo escenario: esta vez, con posibilidad de salvación. El documento AI 2040: Plan A fue presentado por el ex investigador de OpenAI Daniel Kokotajlo y el proyecto AI Futures Project.

Kokotajlo dejó OpenAI en abril de 2024. Se fue por desacuerdos en materia de seguridad de la inteligencia artificial y, en 2025, fundó el proyecto AI Futures Project.

En abril del mismo año, la organización publicó el pronóstico AI 2027. En él se decía que la carrera de la IA entre EE. UU. y China podría llevar a la desaparición de la humanidad o a una dictadura. Al mismo tiempo, los autores aclararon que la probabilidad de extinción varía entre 10% y 30%.

Los especialistas de AI 2040: Plan A llamaron a esto una recomendación: un conjunto de pasos descritos que puede reducir los riesgos.

Cómo debería funcionar

Según el escenario, en 2029 EE. UU. y China firman un acuerdo internacional para rechazar la carrera por el superinteligente. Sin el acuerdo, la automatización de los desarrollos de IA habría ocurrido ya en 2030.

En lugar de eso, los países desarrollan redes neuronales de forma gradual, hasta el nivel de los mejores expertos humanos. Para 2035 se detienen para conservar el control humano sobre los sistemas y en 2040 se levanta la pausa, y la IA alcanza el nivel de superinteligencia.

El plan se basa en cuatro principios:

• ganar tiempo para investigaciones de seguridad;
• revelar por completo los desarrollos de IA;
• distribuir la inteligencia artificial entre diferentes empresas y países;
• conservar la reversibilidad del proceso.

Para que las partes confíen entre sí, el Plan A se apoya en la verificación. Los grandes centros de datos se ven desde el espacio, por lo que es difícil ocultarlos.

Sobre esta base se construye el primer paso: los países declaran públicamente las compras de chips de IA. Luego, introducen una pausa temporal en nuevas tandas de entrenamiento: sensores en los centros de datos confirman el cumplimiento. Cuando la confianza queda confirmada, se levanta la restricción, pero la investigación sigue siendo completamente transparente: cualquier país y empresa puede ver lo que hacen los demás.

Lo que debería protegerse del incumplimiento del acuerdo es el “destrucción mutuamente garantizada de la capacidad de cómputo”, que los autores compararon con la lógica de la disuasión nuclear. Los nuevos centros de datos de China, según el plan, se construyen en Canadá, y los de EE. UU. en Mongolia, es decir, en un territorio donde, en caso de conflicto, resulta más fácil atacarlos por parte del rival.

Si el acuerdo fracasa, el país que recibe intentará apoderarse de la capacidad ajena dentro de su territorio, y el propietario la destruirá por sí mismo para que no llegue al enemigo.

Economía del plan

Según los cálculos de los autores, la capacidad mundial de cómputo aumentará desde 20 mil equivalentes de H100 en 2026 hasta 60 mil millones hacia 2034. El crecimiento real del PIB de EE. UU. en períodos específicos de los años 2030 alcanzará 50% anual, frente al 3% habitual.

Debido a la automatización, el empleo en Estados Unidos caerá de 62% en 2027 a 12% hacia 2040. Para compensar la pérdida de puestos de trabajo, los expertos propusieron introducir “dividendos civiles”: pagos a cada adulto estadounidense con los ingresos que el Estado recauda de las empresas por permisos de cómputo y robots.

De acuerdo con los pronósticos de AI Futures Project, en 2032 el dividendo será de $45 000 por persona. Para 2035 crecerá hasta $1 millón y para 2039, hasta $10 millones.

Cuatro escenarios de respaldo

Los especialistas contrapusieron el Plan A a cuatro vías diferentes. Según ellos, son líneas argumentales de un mismo escenario: una ilustración de lo que ocurrirá con otras decisiones de las autoridades.

• Plan B — EE. UU. crea una coalición de aliados y presiona a China, hasta ciberataques y ataques puntuales a proyectos de IA ajenos. El escenario termina con la elección entre perder el control de la IA y la guerra.
• Plan C — Washington intenta negociar con Pekín e introducir regulación interna, pero, bajo la presión de las empresas, la pausa se levanta rápidamente. El final conlleva el riesgo de una oligarquía permanente de un pequeño grupo que controla la superinteligencia.
• Plan D — las autoridades apuestan por una regulación mínima y la carrera. Los riesgos son la pérdida de control sobre la IA, una concentración extrema del poder y la tercera guerra mundial.
• Plan S — parada total e indefinida de los desarrollos avanzados de IA. El peligro principal es que el acuerdo, tarde o temprano, se rompa y la carrera se reanude en condiciones menos controladas.

Recordemos que en febrero expertos de Citrini Research predijeron el colapso de la economía debido a la inteligencia artificial.