Le patron de l’IA chez Google, Demis Hassabis : une IA de pointe doit être autorisée au préalable, sinon elle ne pourra pas être mise en ligne aux États-Unis

ME AI 消消息，据 动察 Beating 监测，le PDG de Google DeepMind, Demis Hassabis, affirme que l’AGI pourrait ne plus être qu’à quelques années. Il soutient que les États-Unis devraient transformer les tests volontaires de modèles existants en un régime d’accès au marché progressivement obligatoire. D’après son plan, les entreprises d’IA les plus avancées devraient soumettre volontairement leurs modèles à une évaluation au plus tôt 30 jours avant leur publication. Une fois les mécanismes d’évaluation mûrs, les modèles atteignant le seuil de capacités doivent passer des tests pour pouvoir être déployés sur le marché américain.

Il suggère de créer une institution de normalisation analogue à la FINRA, l’autorité de régulation du secteur financier américain. L’organisme serait supervisé par le gouvernement fédéral, financé principalement par les entreprises d’IA, et intégrerait des experts indépendants ainsi que des représentants de la communauté open source.

Les tests mettraient l’accent sur les attaques informatiques, les menaces biologiques, les comportements de tromperie et la capacité à contourner des restrictions de sécurité. Les normes seraient mises à jour régulièrement et adopteraient progressivement des tests indépendants que les laboratoires n’auraient pas vus à l’avance, afin d’éviter que les modèles ne « suroptimisent » en se basant sur des sujets publiés.

Les règles seraient définies en fonction des capacités des modèles, sans distinguer les entreprises américaines ou étrangères, ni distinguer l’open source du code propriétaire. Les startups et les projets universitaires n’atteignant pas le seuil le plus avancé pourraient être exemptés.

Les États-Unis autorisent déjà, à l’heure actuelle, les entreprises de pointe à soumettre volontairement leurs modèles au gouvernement pour des tests au plus 30 jours avant leur publication. Mais un décret administratif publié en juin exclut clairement l’octroi obligatoire de licences et l’approbation préalable. Hassabis plaide pour transformer ce dispositif volontaire en une « autorisation de passage » obligatoire ; en cas de risque grave, il propose aussi de coordonner un ralentissement collectif des laboratoires de pointe.

（Source : BlockBeats）