La persecución de AGI de OpenAI es un concepto y contrato complicado

NUEVA YORK, 16 de marzo (Reuters Breakingviews) - Imagina una asociación tremendamente exitosa que se disuelve una vez ocurre algo. Excepto que no está claro qué evento es, si ha ocurrido o incluso si es posible. Ese es el desafío que enfrentan OpenAI y Microsoft (MSFT.O), abre una nueva pestaña, mientras contemplan la posible llegada de inteligencia artificial general. La opacidad de su acuerdo y las enormes sumas de dinero en juego hacen que sea casi inevitable que un debate teórico se convierta en una disputa contractual.

El concepto conocido como AGI es el punto en el que los sistemas autónomos pueden igualar o superar a los humanos en tareas intelectuales. En Silicon Valley, esto es tanto un objetivo aspiracional como una amenaza existencial. Crear un sistema de autoaprendizaje podría, en teoría, resultar en resultados que van desde una edad de oro para la humanidad hasta la extinción.

El boletín Reuters Iran Briefing te mantiene informado con los últimos avances y análisis sobre la guerra en Irán. Regístrate aquí.

OpenAI fue fundada en 2015 con este objetivo explícito. Sam Altman, Ilya Sutskever, Elon Musk y otros se propusieron crear AGI, que definieron, abre una nueva pestaña, como “sistemas altamente autónomos que superan a los humanos en la mayoría de los trabajos económicamente valiosos, en beneficio de toda la humanidad”. En línea con la idea de que el amor al dinero es la raíz de todo mal, OpenAI fue fundada como una organización sin fines de lucro.

Sin embargo, el ego y la buena voluntad no eran suficientes: la carrera por la IA también requería enormes recursos financieros. Por ello, la empresa estableció una rama con fines de lucro en 2019 y una asociación con Microsoft. El gigante del software invirtió 1.000 millones de dólares y proporcionó infraestructura informática a cambio del acceso a la tecnología de OpenAI. La startup insistió en que, una vez lograda la AGI, los derechos exclusivos de la tecnología volverían a la startup.

Probablemente esto fue una concesión fácil de hacer en ese momento. Sin embargo, a medida que los sistemas de IA han crecido rápidamente en capacidad, definir la AGI se ha convertido en una cuestión menos abstracta. En medidas como razonamiento visual, comprensión del inglés o matemáticas a nivel de competencia, los sistemas avanzados han superado los puntos de referencia promedio humanos, según el Instituto Stanford para IA centrada en el ser humano.

Aquí es donde el debate conceptual se convierte en uno contractual. Como la explicación subjetiva del juez de la Corte Suprema Potter Stewart sobre la obscenidad — “lo sé cuando lo veo” — la AGI estaba mal definida. La cláusula de OpenAI no era ni concreta ni fácilmente observable, como señalaron investigadores de Google, abre una nueva pestaña, en un artículo de 2023 que intentó establecer un marco para tales declaraciones.

Tome la disposición de que el hito se alcanzaría cuando los sistemas pudieran superar a la mayoría de los humanos en trabajos económicamente valiosos. ¿Qué significa “la mayoría de las personas”? ¿Se puede medir esto sin despliegue en el mundo real, o si el uso se ralentiza por razones legales o éticas? Finalmente, el valor económico de muchos trabajos es difícil de definir.

Mientras tanto, entrenar y desplegar modelos de IA requiere cantidades voraces de dinero. Microsoft, Alphabet (GOOGL.O), abre una nueva pestaña, Meta Platforms (META.O), abre una nueva pestaña y Oracle (ORCL.N), abre una nueva pestaña, han aumentado drásticamente su gasto de capital en respuesta a estas necesidades y planean gastar más de 700 mil millones de dólares este año. Como una startup sin fuentes de ingresos existentes, OpenAI necesitaba apoyo.

Microsoft terminó invirtiendo un total de 13 mil millones de dólares. Sin embargo, eso no fue suficiente para OpenAI, y el acuerdo cada vez más complejo entre ambas empresas, varias partes del cual dependían de la cláusula de AGI, generó roces en ambas partes.

Otras industrias han aprendido que los acuerdos vagos y las grandes sumas de dinero no combinan. Toma los bonos de catástrofe, que ayudan a las empresas a transferir el riesgo financiero de huracanes, inundaciones o pandemias. Estos eventos son raros, pero la factura de 1.4 billones de dólares por una tormenta que golpee una gran ciudad estadounidense como Miami podría hacer tambalear a toda la industria de seguros. Por ello, las empresas contratan externos dispuestos a asumir riesgos gigantescos pero de baja probabilidad a cambio de pagos. Los acuerdos inicialmente opacos llevaron a disputas amargas, como la pelea legal de cinco años entre un reasegurador y los tenedores de bonos sobre qué exactamente cubría tras un huracán en 2008.

Desde entonces, los bonos de catástrofe han evolucionado hacia desencadenantes más concretos y fácilmente observables, reduciendo la incertidumbre y evitando disputas. Piensa en medir la velocidad del viento en un lugar específico, por ejemplo, en lugar de las pérdidas totales de la industria de seguros o si un gobierno declara un estado de emergencia.

En fusiones biotecnológicas, las empresas usan pagos contingentes para cerrar la brecha entre comprador y vendedor al valorar medicamentos experimentales. Estos generalmente incorporan desencadenantes no debatibles, como si la Administración de Alimentos y Medicamentos de EE. UU. ha aprobado el tratamiento para una fecha determinada.

Desde entonces, OpenAI y Microsoft han llegado a una especie de détente, probablemente porque negociaciones prolongadas podrían terminar con ambas partes perdiendo. Un nuevo acuerdo, abre una nueva pestaña, firmado a finales del año pasado, establece que un panel independiente debe verificar cualquier afirmación de OpenAI de que se ha logrado la AGI.

Microsoft mantiene una participación del 27% en la empresa, valorada recientemente en 840 mil millones de dólares, y tiene derecho a cierta tecnología hasta 2032, incluso si se logra la AGI. La compañía de Sam Altman ahora puede buscar asociaciones o una oferta pública inicial. Sin embargo, todavía hay motivos para la tensión. OpenAI envía aproximadamente el 20% de sus ingresos a Microsoft, y eso básicamente desaparece si se logra la AGI. Un cambio financiero tan grande haría una gran diferencia en las finanzas de OpenAI mientras se prepara para vender acciones al público.

El debate sobre cómo definir la AGI aún no se ha resuelto realmente. Sam Altman dijo a finales del año pasado en un podcast, abre una nueva pestaña, que la gente no lo notó mucho y no cambió el mundo, pero “construimos la AGI”. El CEO de Microsoft, Satya Nadella, parece centrarse más en efectos a gran escala, afirmando el año pasado que la AGI sería “una prueba de referencia sin sentido” y que la verdadera medida del éxito sería que la economía mundial crezca a un ritmo improbable del 10%.

El debate también ha avanzado. Incluso evangelistas de la IA como Altman admiten que la IA todavía hace algunas cosas mal, como el razonamiento complejo y la capacidad de aprender. Ahora promueve la idea de la superinteligencia y sistemas de IA que hagan cosas que los humanos no pueden hacer, o que realicen trabajos, como ser presidente de EE. UU., mejor que un humano. Sin embargo, esa sigue siendo una definición vaga.

Altman todavía persigue. La reciente recaudación de fondos de OpenAI de 110 mil millones de dólares incluyó una gran contribución de Amazon (AMZN.O), abre una nueva pestaña, que podría depender de si la compañía sale a bolsa o logra la AGI, informó The Information, abre una nueva pestaña.

En una entrevista con CNBC tras el acuerdo, Altman dijo que el progreso de la IA sigue siendo rápido, y dado que la AGI es una “cosa a corto plazo”, la compañía no está haciendo nuevos acuerdos que se detengan cuando se alcance. Esa línea de tiempo puede ser optimista, pero si lo es, la disputa todavía tiene tiempo y motivación para volver a surgir.