Les dirigeants technologiques divisés sur la pétition de pause du développement de l'IA menée par Musk et Wozniak

Une pétition appelant à un arrêt temporaire du développement de l'intelligence artificielle avancée (AI) a créé une division significative au sein de la communauté technologique, avec des figures de proue de l'industrie prenant des positions opposées sur la question.

La lettre ouverte, signée par plus de 2 600 dirigeants et chercheurs de l'industrie technologique, dont le PDG de Tesla, Elon Musk, et le co-fondateur d'Apple, Steve Wozniak, a exhorté les entreprises d'IA à "cesser immédiatement" de développer des systèmes plus puissants que le GPT-4 d'OpenAI pendant au moins six mois. La pétition a exprimé de sérieuses inquiétudes concernant les systèmes d'IA avec une intelligence compétitive humaine qui pourraient poser des dangers significatifs pour la société et l'humanité.

Les leaders de l'industrie crypto expriment leur opposition

Le PDG d'un échange de cryptomonnaies conforme majeur, Brian Armstrong, était parmi plusieurs voix notables s'opposant à la pétition. Armstrong a soutenu que "les comités et la bureaucratie ne résoudront rien" et a souligné qu'il n'y a pas d'"experts" désignés qui devraient décider de cette question, car l'industrie technologique elle-même reste divisée sur le sujet.

Armstrong a en outre déclaré que, bien que les nouvelles technologies comportent intrinsèquement certains risques, le progrès devrait se poursuivre plutôt que d'être arrêté par la peur. Il a particulièrement mis en garde contre la centralisation de l'autorité décisionnelle, tweetant : "Ne laissez jamais la peur arrêter le progrès, et méfiez-vous de quiconque essaie de capturer le contrôle dans une autorité centrale."

Critique plus large de la communauté technologique

La pétition a également fait face à des critiques au-delà du secteur des cryptomonnaies. Le chroniqueur du Los Angeles Times, Brian Merchant, l'a décrite comme un "carnaval apocalyptique de l'IA", suggérant que bon nombre des préoccupations exprimées tournent autour des craintes d'une "apocalypse des emplois de robots."

L'ancien dirigeant de Mastercard Web3, Satvik Sethi, a comparé la pétition à un "traité de non-prolifération mais pour l'IA", tout en remettant en question les motivations des signataires de renom. Sethi a suggéré que de nombreux signataires ayant des intérêts personnels dans le domaine de l'IA pourraient tenter stratégiquement de "ralentir leurs homologues afin de prendre de l'avance."

Contexte technique du débat

La pétition se concentre spécifiquement sur des systèmes plus puissants que GPT-4, qui est un modèle de langage multimodal créé par OpenAI et le quatrième de sa série GPT. Cette technologie représente l'un des systèmes d'IA les plus avancés actuellement disponibles au public, capable de comprendre et de générer un texte semblable à celui des humains basé sur d'énormes quantités de données d'entraînement.

Selon des informations de l'Institut pour l'avenir de la vie, qui a organisé la lettre ouverte, la pause demandée permettrait de mettre en œuvre des "protocoles de sécurité partagés" pour les systèmes d'IA avancés. Le débat se poursuit pour savoir si des restrictions temporaires ou de meilleurs cadres de gouvernance représentent l'approche optimale pour gérer l'avancement rapide des technologies d'intelligence artificielle.