Veterano de Google DeepMind recauda 1.100 millones de dólares para construir IA que no se entrena con datos humanos

En resumen

• El veterano de DeepMind, David Silver, recaudó 1.1 mil millones de dólares para su nueva startup Ineffable Intelligence con una valoración de 5.1 mil millones de dólares.
• Silver dice que el aprendizaje por refuerzo, no los grandes modelos de lenguaje, es el mejor camino hacia la superinteligencia.
• La startup busca construir IA “superaprendices” que aprendan a través de simulaciones y autojuego.

David Silver, el científico de DeepMind detrás de la victoria histórica de AlphaGo en 2016 sobre el campeón mundial de Go Lee Sedol, ha recaudado 1.1 mil millones de dólares para lanzar una startup que apuesta a que la próxima era de IA no provendrá de la tecnología dominante actual. La empresa de Silver, Ineffable Intelligence, se lanzó en enero con una valoración de 5.1 mil millones de dólares y apuesta por el aprendizaje por refuerzo, un método en el que los sistemas de IA mejoran mediante prueba y error. Silver argumenta que ese enfoque, en lugar de los grandes modelos de lenguaje que ahora dominan el campo, ofrece una ruta más creíble hacia la superinteligencia. “Pienso en nuestra misión como hacer contacto inicial con la superinteligencia,” dijo Silver a Wired. “Por superinteligencia, realmente quiero decir algo increíble. Debería descubrir nuevas formas de ciencia, tecnología, gobierno o economía por sí misma.”

Popularizado por el filósofo Nick Bostrom en su libro de 2014 “Superinteligencia,” el término se refiere a IA que supera la inteligencia humana en casi todos los ámbitos, mientras que la inteligencia artificial general, o AGI, describe sistemas capaces de igualar el razonamiento humano en una amplia gama de tareas.  Silver argumenta que los grandes modelos de lenguaje son fundamentalmente limitados porque aprenden de datos generados por humanos, en lugar de construir su propia comprensión a través de la experiencia. “Los datos humanos son como un tipo de combustible fósil que ha proporcionado un atajo increíble,” dijo. “Puedes pensar en sistemas que aprenden por sí mismos como un combustible renovable—algo que puede aprender y aprender y aprender para siempre, sin límite.”

Silver ha dedicado gran parte de su carrera a defender ese argumento. AlphaGo, que combinó datos de entrenamiento humanos con aprendizaje por refuerzo y autojuego, desarrolló estrategias que sorprendieron incluso a los mejores jugadores humanos y demostraron cómo la IA puede superar el precedente humano en dominios estrechos. “Creo que es realmente importante que exista un laboratorio de IA de élite que se enfoque al cien por ciento en este enfoque,” dijo a Wired. “Que no sea solo una esquina de otro lugar dedicado a los LLM.” Ineffable Intelligence planea construir lo que Silver llama “superaprendices”—agentes de IA colocados dentro de simulaciones donde puedan perseguir metas, fallar, adaptarse y mejorar sin los límites de un conjunto de datos humanos estático. Silver se negó a describir cómo serían esas simulaciones, pero dijo que el enfoque permitiría a los agentes colaborar y desarrollar capacidades de forma autónoma. Silver argumentó que los grandes modelos de lenguaje están limitados por los datos en los que se entrenan, añadiendo que un modelo entrenado en un mundo donde todos creían que la Tierra era plana probablemente mantendría esa creencia a menos que pudiera probar la realidad por sí mismo. Un sistema que aprende a través de la experiencia, dijo, podría descubrir lo contrario. Ineffable Intelligence no respondió de inmediato a una solicitud de comentario de Decrypt.