Le chapitre de DeepMind propose de vérifier les modèles d’IA avancés avant leur sortie – ForkLog

# Le patron de DeepMind propose de vérifier les modèles d’IA de pointe avant leur sortie

Le patron de Google DeepMind, Demis Hassabis, propose de créer aux États-Unis un organisme de normalisation chargé de vérifier les modèles d’IA les plus puissants avant leur mise sur le marché. D’après lui, l’intelligence artificielle générale (AGI) pourrait apparaître « dans quelques années », et son impact serait comparable à la découverte de l’électricité ou du feu.

https://t.co/PTeDiv1b6L

— Demis Hassabis (@demishassabis) 14 juillet 2026

Par AGI, Hassabis entend un système disposant de l’ensemble des capacités cognitives du cerveau humain. Selon lui, une telle technologie ne peut même pas être comparée à Internet ou à la téléphonie mobile.

« Quand on regardera en arrière sur cette époque dans les décennies à venir, je pense qu’on comprendra que nous étions au pied d’une singularité — rien de moins que le début d’une nouvelle ère pour l’humanité », a écrit Hassabis.

Le patron de DeepMind estime que l’AGI pourra accélérer le développement de médicaments, de nouvelles sources d’énergie propre et de matériaux de pointe. Dans le même temps, les capacités de l’IA évoluent plus vite que la compréhension des risques qui y sont associés, a-t-il souligné.

Les modèles avancés actuels créent déjà des menaces dans le domaine de la cybersécurité. À mesure que leurs capacités augmentent, les risques biologiques, nucléaires et autres pourraient s’intensifier. Hassabis a également mis en garde contre l’émergence de systèmes plus autonomes, capables d’exécuter des séquences d’actions complexes et de s’améliorer de manière récursive. Pour conserver le contrôle sur eux, des mesures techniques supplémentaires de protection seront nécessaires.

Un nouvel organe définira les modèles de pointe

Hassabis a proposé de créer le Frontier AI Standards Body sur le modèle de la FINRA. La nouvelle structure pourrait fonctionner comme un partenariat public-privé ou comme une organisation d’autorégulation avec une supervision fédérale. Elle devrait être principalement financée par l’industrie de l’IA.

La direction proposée inclurait des experts techniques indépendants et des représentants de la communauté du logiciel open source. L’organisme élaborera des protocoles d’évaluation en collaboration avec les agences fédérales et les laboratoires nationaux américains.

Des tests spécifiques doivent déterminer si le modèle relève de la catégorie des systèmes de pointe. Les essais couvriront la cybersécurité, les menaces biologiques et d’autres domaines présentant un risque plus élevé. Des vérifications distinctes mettront en évidence les tentatives des modèles de contourner des limites de protection, d’induire les utilisateurs en erreur ou de dissimuler leurs actions.

Le contrôle pourrait devenir obligatoire

Dans un premier temps, les entreprises transmettront volontairement les modèles de pointe à la vérification au plus tard 30 jours avant la sortie.

Après confirmation de l’efficacité du système, la procédure pourra être inscrite dans la loi. Les modèles de pointe devront alors réussir l’évaluation avant d’être commercialisés sur le marché américain. Hassabis a aussi proposé de créer un marché d’auditeurs indépendants et d’utiliser le système américain comme base pour de futurs standards internationaux.

En juin, le président américain Donald Trump a signé un décret sur la vérification volontaire des capacités cyber des modèles d’IA de pointe. Les entreprises pourront fournir aux autorités un accès à ces systèmes pour une durée pouvant aller jusqu’à 30 jours avant de les transmettre à des partenaires externes de confiance. Le document interdit explicitement d’interpréter ce mécanisme comme une licence obligatoire ou comme l’obtention d’une autorisation préalable pour la sortie des modèles.

Dans la tribune elle-même, Hassabis a reconnu que le développement ultérieur de la technologie reste incertain et que même les spécialistes ne partagent pas tous le même avis.

Plus tôt, les médias ont appris que l’administration Trump avait demandé à OpenAI de ne pas déployer GPT-5.6 immédiatement en accès grand public en raison de préoccupations liées à la sécurité. La société de Sam Altman a d’abord fourni le modèle à un nombre limité de clients.

En juillet, le secrétaire général des Nations unies, António Guterres, a appelé à instaurer des règles communes pour les systèmes d’IA de pointe, à protéger les enfants contre les risques des chatbots, à interdire les systèmes d’armes létaux autonomes et à élargir l’accès des pays en développement aux ressources informatiques.

Rappelons qu’en juillet, les participants à la marche à San Francisco ont exigé d’OpenAI, d’Anthropic et de Google DeepMind qu’ils suspendent de manière coordonnée l’entraînement de modèles plus puissants. Les ressources libérées, selon eux, devraient être consacrées à la sécurité.

Le même mois, l’ancien chercheur d’OpenAI Daniel Kokotajlo a proposé de ralentir la course à l’IA jusqu’en 2040.