Le PDG de DeepMind déplore que la commercialisation de l'IA soit trop rapide : si l'on avait laissé plus longtemps les laboratoires d'expérimentation, l'humanité aurait peut-être déjà vaincu le cancer

Le PDG de DeepMind, Demis Hassabis, se lamente que la compétition commerciale en IA soit trop précipitée ; s’il pouvait laisser la technologie mûrir davantage en laboratoire pendant plusieurs années, peut-être que l’humanité aurait déjà vaincu le cancer.

L’IA change rapidement la vie humaine, avec de nouvelles technologies et outils qui apparaissent toutes les quelques semaines ou même quelques jours, mais Demis Hassabis, l’un des acteurs clés de cette vague et lauréat du prix Nobel de chimie 2024, pense que le rythme de la compétition en IA est trop rapide. S’il en avait le pouvoir, il aimerait que l’IA passe plus d’années en laboratoire à peaufiner, peut-être que l’humanité aurait déjà fait des progrès décisifs dans le traitement du cancer.

Hassabis a partagé cette réflexion lors d’un podcast animé par la vidéaste Cleo Abram, exprimant sa déception face au développement actuel de l’IA. Lors d’un entretien avec le magazine Time, Hassabis s’était déjà défini comme un scientifique, soulignant que ses explorations en IA visaient avant tout la quête de connaissance et la compréhension du monde.

Il mentionne que son intention initiale en entrant dans le domaine de l’IA n’était pas de créer des chatbots, mais d’accélérer la découverte scientifique. Leur réalisation la plus célèbre est AlphaFold, un système qui a résolu le « problème du repliement des protéines » qui hantait la biologie depuis 50 ans. Hassabis indique que cela a bénéficié à plus de 3 millions de scientifiques dans le monde, notamment dans la recherche sur des maladies comme le paludisme, en fournissant une base de données structurale gratuite, permettant aux chercheurs de passer directement à la phase de développement de médicaments, sans devoir réaliser toutes les expériences de base.

Source : Youtube. Les résultats de recherche d’AlphaFold ont permis à Hassabis de devenir l’un des lauréats du prix Nobel.

Il pense que si l’IA pouvait rester plus longtemps en laboratoire, concentrée sur ces questions clés, l’humanité aurait déjà réalisé des avancées plus décisives dans le traitement du cancer ou dans la science des matériaux.

Les technologies de pointe arrivent dans le grand public en quelques mois, mais au prix de la perte de ressources pour les questions cruciales

Hassabis esquisse dans l’interview sa vision idéale du développement de l’IA — ce qu’il appelle le « modèle CERN ». Il souhaite que le processus de développement d’une intelligence artificielle générale (AGI) ressemble à l’exploitation du Grand collisionneur de hadrons (LHC) par le CERN, en utilisant une méthode rigoureuse, prudente et réfléchie, pour s’assurer que chaque étape est bien comprise avant d’avancer.

Cependant, la réalité s’éloigne du scénario idéal de Hassabis. La popularité soudaine de ChatGPT fin 2022 et les avancées dans l’IA générative ont déclenché une course commerciale chaotique à l’échelle mondiale. Il admet que cette situation a accéléré la mise en œuvre de la technologie IA, permettant à des technologies avancées d’atteindre le grand public en quelques mois, mais elle a aussi détourné des ressources des questions vraiment essentielles.

Pour dominer le marché et garder une avance technologique, le rythme de développement a été forcé à une vitesse élevée. Hassabis confie qu’ils ne peuvent plus suivre le rythme qu’il avait imaginé il y a plusieurs années, celui d’un développement réfléchi, philosophique, évaluant chaque étape avec prudence.

Bien que les chatbots IA soient très utiles pour résumer ou stimuler la réflexion, ils présentent encore des défauts comme la « hallucination » (fournir des réponses incorrectes ou inventées). La pression commerciale pousse cependant ces produits expérimentaux à être rapidement lancés sur le marché. Cela entraîne un détournement massif de ressources et de focus de recherche vers la sortie de modèles fondamentaux généralistes destinés à un usage large.

Pour équilibrer la réalité et l’idéal, Hassabis adopte une approche plus pragmatique : d’un côté, il dirige le développement de produits IA grand public comme Gemini chez Google, et de l’autre, il investit dans l’IA appliquée (Narrow AI). Il pense qu’il n’est pas nécessaire d’attendre l’avènement d’une IA générale ; des systèmes spécialisés comme AlphaFold peuvent déjà apporter des bénéfices concrets dans l’énergie, la science des matériaux et la médecine.

AlphaGo, un coup exceptionnel, révèle la possibilité pour l’IA de dépasser la pensée humaine

La confiance de Hassabis en l’IA repose en grande partie sur la partie d’AlphaGo en 2016 contre le maître coréen Lee Sedol, qui a bouleversé le monde. Lors de cette partie, AlphaGo a joué le fameux « coup 37 », une move que personne n’aurait pensé possible, mais qui a finalement permis à AlphaGo de remporter la victoire.

Source : gogameguru.com. La stratégie de jeu d’AlphaGo, qui a joué des coups que les humains ne pensaient pas possibles, est vue par Hassabis comme une preuve que l’IA peut dépasser le cadre de la pensée humaine.

Hassabis a compris à partir de ce signal que l’IA possède la capacité de dépasser l’expérience humaine, en cherchant des solutions totalement nouvelles. Il souhaite appliquer cette créativité surpassant la pensée humaine dans le domaine scientifique.

AlphaFold en est la meilleure illustration. La méthode traditionnelle nécessitait des dizaines de milliers de dollars et plusieurs années pour déterminer la structure d’une seule protéine. AlphaFold 2 a déjà prédit près de 200 millions de structures protéiques connues dans la communauté scientifique.

Aujourd’hui, Hassabis mène une équipe dans la recherche avancée de médicaments. La recherche pharmaceutique traditionnelle prend environ 10 ans, avec un taux de succès d’environ 10 %. Il a fondé Isomorphic Labs, qui utilise AlphaFold 3 et des modèles ultérieurs pour faire du « criblage virtuel » : en quelques minutes, l’IA peut simuler des millions de combinaisons de molécules et de protéines, tout en vérifiant si elles sont toxiques pour plus de 20 000 autres protéines humaines, permettant d’éliminer à l’avance la majorité des combinaisons non prometteuses, ne conservant que les plus susceptibles d’être efficaces pour la validation en laboratoire.

Deux risques liés à l’IA qui inquiètent

Cependant, avec l’amélioration de la technologie IA et l’avènement de l’ère des agents IA, les inquiétudes de Hassabis deviennent plus concrètes. Il résume ces risques en deux catégories principales : le premier concerne les « acteurs malveillants » (Bad Actors), qu’il s’agisse d’individus ou d’États, qui pourraient utiliser à des fins nuisibles des technologies initialement destinées à guérir des maladies ou à développer de nouveaux matériaux.

Le second, plus spéculatif mais bien réel, est la menace de l’« IA qui déraille » (Going rogue). Lorsqu’un système devient extrêmement intelligent et autonome, il devient très difficile de garantir qu’il exécute précisément les objectifs humains sans contourner la sécurité. C’est un défi technologique majeur.

Face à ces défis, Hassabis appelle les principales institutions de recherche en IA, les gouvernements et le monde académique à établir une coopération internationale, soulignant que dans la dernière étape vers l’AGI (intelligence artificielle générale), il faut intensifier la recherche sur la sécurité.

Malgré ses regrets de ne pas avoir laissé l’IA plus longtemps en laboratoire, Hassabis reste optimiste pour les 50 prochaines années. Il voit l’IA comme un outil pour aider l’humanité à maîtriser la fusion nucléaire, découvrir des supraconducteurs à température ambiante, voire réduire à zéro le coût de l’énergie pour les voyages spatiaux. Pour lui, l’IA n’est pas seulement une technologie, mais un miroir amplifiant la quête de vérité de l’humanité. Quelle que soit la réponse, il souhaite connaître la vérité.

• Ce texte est reproduit avec autorisation de « Digital Times »
• Titre original : « Lauréat du Nobel déplore la rapidité de la commercialisation de l’IA : si l’on avait laissé plus longtemps en laboratoire, l’humanité aurait peut-être déjà vaincu le cancer ! »
• Auteur original : Chen Jianjun