Vitalik Buterin met en garde, nous avons besoin de défenses décentralisées pour faire face aux risques de l'IA

Le co-fondateur d’Ethereum, Vitalik Buterin, a exprimé des inquiétudes concernant les dangers potentiels des programmes d’intelligence artificielle (IA) non contrôlés.

Dans un article du 10 janvier sur X, Buterin a averti que l’IA mal gérée pourrait créer des entités intelligentes autoréplicantes qui posent des risques pour l’humanité.

Il a déclaré:

“Une IA mal conçue crée de nouvelles formes de vie intelligente, indépendante et autoréplicante. Une IA bien conçue, c’est des exosquelettes pour l’esprit humain. Si nous faisons le premier sans le second, nous risquons un déséquilibre permanent de l’homme. Si nous faisons le second, nous aurons une civilisation humaine superintelligente florissante.”

Il a expliqué que certains systèmes d’IA, tels que les chatbots conçus pour améliorer les interfaces utilisateur, sont bénéfiques, mais que d’autres pourraient entraîner des risques importants. Plus précisément, les agents d’IA qui fonctionnent de manière autonome pendant de longues périodes pourraient finir par remettre en question le contrôle humain et désarmer la société.

Pour atténuer ces risques, Buterin a proposé de se concentrer sur des systèmes d’IA qui complètent l’intelligence humaine, les transformant en outils qui amplifient les capacités collectives au lieu de les remplacer.

Selon lui, une telle approche permettrait de transformer l’IA en un outil puissant pour améliorer les capacités humaines tout en évitant les risques inutiles.

d/Acc

Une partie importante de sa stratégie implique le concept d’Accélération Défensive Différentielle Décentralisée et Démocratique (d/Acc). Cette approche met l’accent sur le développement d’outils décentralisés pour faire face aux menaces émergentes liées à l’IA.

Buterin a développé cette idée dans un récent article de blog, décrivant d/Acc comme un cadre conçu pour décentraliser les technologies défensives. L’objectif est d’habiliter les individus et les communautés à se protéger des dangers potentiels posés par les progrès rapides de l’IA.

Cette stratégie permet une distribution plus démocratique du pouvoir technologique en mettant les capacités défensives entre les mains des communautés. Par exemple, des systèmes décentralisés pourraient surveiller, contrer ou même neutraliser les activités néfastes de l’IA sans compter sur le contrôle descendant des gouvernements ou des entreprises.

Buterin a expliqué que d/Acc pourrait servir de sauvegarde dans des scénarios où les technologies de l’IA évoluent de manière imprévisible. De plus, la démocratisation de la défense garantit qu’aucune entité unique ne peut dominer ou exploiter le potentiel de l’IA avancée, favorisant ainsi un écosystème technologique plus équilibré et résilient.

Le co-fondateur d’Ethereum a également souligné les responsabilités éthiques des développeurs dans ce domaine en constante évolution. Il a soutenu que les approches décentralisées telles que d/Acc renforcent la sécurité collective et encouragent la transparence et la collaboration dans le développement de l’IA.

Buterin a écrit:

“Une idée très favorable à l’intelligence artificielle consiste à mettre la responsabilité sur les propriétaires ou les exploitants de tout équipement qu’une IA prend le contrôle (par exemple, en piratant) dans le processus d’exécution d’une action catastrophiquement nuisible. Cela créerait une incitation très large à faire le travail difficile pour rendre l’infrastructure mondiale (en particulier l’informatique et la biologie) aussi sécurisée que possible.”

Mentionné dans cet article