El 'Plan Bunker' de Hassabis: Un nuevo libro revela el colapso de los ideales de seguridad de DeepMind

Según la supervisión de 1M AI News, The Atlantic ha publicado un extracto del nuevo libro del historiador de la tecnología y de las finanzas Sebastian Mallaby, ‘The Infinity Machine’, que relata la evolución de los conceptos de seguridad de la IA desde Demis Hassabis, cofundador de Google DeepMind, desde la adquisición de Google en 2014, basándose en entrevistas en curso de 2023 a 2026. Hassabis al principio imaginó un único equipo científico que construyera con seguridad la superinteligencia en nombre de toda la humanidad y, incluso, planeó retirar a los principales investigadores a un búnker secreto en momentos críticos, a semejanza del Proyecto Manhattan. Un investigador que se incorporó poco después recordó que Hassabis le advirtió durante las etapas finales de la entrevista que estuviera mentalmente preparado para ‘volar a una ubicación secreta en Marruecos en cualquier momento’. Cuando Google adquirió DeepMind en 2014, Hassabis estableció condiciones poco comunes: la creación de un comité externo de supervisión independiente, una prohibición de aplicaciones militares y que Google no tuviera el control completo sobre el despliegue de la tecnología. Google aceptó estos términos. Al año siguiente, él convocó una reunión secreta en la sede de Elon Musk en Hawthorne, California, intentando unificar a los posibles competidores, pero salió mal: posteriormente, Musk se asoció con Sam Altman para fundar OpenAI. Hassabis entonces inició una operación secreta con el nombre en clave ‘Project Mario’, intentando recuperar la autonomía de gobernanza frente a Google, formando un equipo legal, consiguiendo un compromiso de financiación de $1 mil millones por parte del fundador de LinkedIn Reid Hoffman y considerando escindir DeepMind de Google. Esta lucha duró tres años y, en última instancia, fracasó, lo que llevó a que el cofundador Mustafa Suleyman fuera obligado a salir de la empresa en 2019. Tras el lanzamiento de ChatGPT a finales de 2022, Hassabis abandonó por completo el enfoque de alto nivel de perseguir únicamente ciencia beneficiosa. Le dijo a Mallaby, ‘Esto es tiempo de guerra’, y después se lanzó a la competencia con Gemini y ChatGPT. Cientos de miles de millones de dólares han fl uido a la carrera armamentista de la IA, sin que la regulación nacional ni las estructuras de gobernanza corporativa hayan podido frenar la competencia. La filosofía de seguridad de Hassabis ha cambiado fundamentalmente: ‘La seguridad no está en las estructuras de gobernanza; incluso si hay un comité de gobernanza, es muy improbable que se tome la decisión correcta en momentos críticos’. Su nueva estrategia es asegurarse de tener un asiento en la mesa de toma de decisiones, para que pueda participar en la determinación de soluciones cuando surjan problemas de seguridad. Mientras tanto, Google ha estado comercializando activamente la IA al sistema de defensa de EE. UU., marcando una reversión drástica frente a la prohibición militar que Hassabis estableció durante la adquisición.