Le « Plan Bunker » de Hassabis : un nouveau livre révèle l'effondrement des idéaux de sécurité de DeepMind

Selon le suivi de 1M AI News, The Atlantic a publié un extrait du nouveau livre de Sebastian Mallaby, historien des technologies et de la finance, intitulé « The Infinity Machine », qui retrace l’évolution des concepts de sécurité de l’IA de Demis Hassabis, cofondateur de Google DeepMind, depuis l’acquisition de Google en 2014, à partir d’entretiens en cours menés de 2023 à 2026. Hassabis avait d’abord imaginé qu’une seule équipe scientifique construirait en toute sécurité la superintelligence au nom de toute l’humanité, et il avait même prévu de faire se retirer les meilleurs chercheurs dans un bunker secret à des moments critiques, à la manière du projet Manhattan. Un chercheur qui avait rejoint peu après a rappelé qu’Hassabis lui avait adressé un avertissement durant les derniers stades de l’entretien, en lui disant d’être mentalement prêt à « voler à tout moment vers un lieu secret au Maroc ». Lorsque Google a acquis DeepMind en 2014, Hassabis a posé des conditions rares : la mise en place d’un comité de supervision externe indépendant, une interdiction des applications militaires et le fait que Google n’ait pas le contrôle total du déploiement de la technologie. Google a accepté ces conditions. L’année suivante, il a réuni une réunion secrète au siège d’Elon Musk à Hawthorne, en Californie, tentant d’unifier des concurrents potentiels, mais cela s’est retourné contre lui : Musk s’est ensuite associé à Sam Altman pour fonder OpenAI. Hassabis a alors lancé une opération secrète baptisée « Project Mario », visant à regagner l’autonomie de gouvernance vis-à-vis de Google, en constituant une équipe juridique, en obtenant un engagement de financement de 1 milliard de dollars de la part du fondateur de LinkedIn Reid Hoffman, et en envisageant de détacher DeepMind de Google. Cette lutte a duré trois ans et a finalement échoué, aboutissant à l’éviction du cofondateur Mustafa Suleyman de l’entreprise en 2019. Après la sortie de ChatGPT à la fin de 2022, Hassabis a complètement abandonné l’approche empreinte de grandeur consistant à ne poursuivre que la science bénéfique. Il a dit à Mallaby : « C’est la guerre », puis il s’est lancé dans la compétition avec Gemini et ChatGPT. Des centaines de milliards de dollars ont alimenté la course aux armements de l’IA, sans que ni la réglementation nationale ni les structures de gouvernance d’entreprise ne parviennent à en stopper la compétition. La philosophie de sécurité d’Hassabis a fondamentalement changé : « La sécurité ne réside pas dans les structures de gouvernance ; même s’il existe un comité de gouvernance, il est très improbable qu’il prenne la bonne décision aux moments critiques. » Sa nouvelle stratégie consiste à s’assurer qu’il a un siège à la table de décision, afin qu’il puisse participer à la détermination des solutions lorsque des problèmes de sécurité surviennent. Pendant ce temps, Google a activement fait la promotion de l’IA auprès du système de défense américain, marquant un renversement net par rapport à l’interdiction militaire que Hassabis avait imposée lors de l’acquisition.