Le PDG d'Anthropic critique sincèrement la situation actuelle de l'IA et les politiques, s'agit-il d'une véritable alerte ou de la protection de sa position de leader ?

Titre original : « Le PDG d’Anthropic critique vivement l’état actuel de l’IA et la politique, mais il veut seulement garantir sa propre avance »
Source originale : Machine Heart

Dario Amodei a encore écrit un long article.

Anthropic tente toujours de faire passer ses idées dans le monde entier. Comme il y a quelques jours, lorsqu’ils ont appelé à arrêter le développement de l’IA à l’échelle mondiale, affirmant que l’évolution de l’IA par auto-amélioration récursive allait trop vite.

Les commentaires des internautes sont unanimes, estimant que la soif de domination d’Anthropic pour rester en tête est évidente.

Voyons ce que Dario a encore à dire cette fois.

Il s’agit d’un long article de mille mots intitulé « Policy on the AI Exponential ». Comme ses précédents écrits, le thème reste ambitieux : l’IA progresse à une vitesse exponentielle, mais le cadre politique pour réguler cette avancée reste figé dans un rythme d’il y a dix ans.

Il veut mettre en lumière cet écart, puis dire à tout le monde ce qu’il faut faire.

Résumé du contenu

Amodei utilise la métaphore des ents dans « Le Seigneur des Anneaux » : ces arbres sont sages mais lents, il faut une journée entière pour simplement leur dire bonjour.

Il compare le processus actuel d’élaboration des politiques à celui des ents, tandis que la vitesse d’évolution de l’IA ressemble à la menace pressante que doivent affronter les hobbits.

Son jugement est : si les lois de mise à l’échelle de l’IA se poursuivent encore un ou deux ans, nous obtiendrons ce qu’il appelle une « IA puissante », c’est-à-dire « un royaume de génies dans un centre de données ».

Il y a quatre ans, l’IA ne pouvait presque pas écrire de code décent, et maintenant elle rédige la majorité du code pour les grandes entreprises d’IA.

Régulation et sécurité publique : gérer l’IA comme un avion

Amodei pense que les modèles d’IA de pointe devraient subir des tests obligatoires par des tiers, comme pour les avions. Ses propositions concrètes incluent :

· Les modèles dépassant un certain seuil de calcul doivent faire l’objet d’audits obligatoires dans les domaines de la cybersécurité, des armes biologiques, des systèmes d’IA hors de contrôle, et de la R&D automatisée.

· Le gouvernement doit pouvoir arrêter le déploiement de modèles jugés à risque inacceptable.

· Les entreprises d’IA doivent respecter des normes de sécurité strictes pour protéger les poids de leurs modèles, et collaborer avec le gouvernement pour défendre contre les principales menaces.

Il laisse une porte ouverte : si à l’avenir, le système d’IA le plus puissant ressemble davantage à un matériau nucléaire pouvant être weaponisé qu’à un avion, la régulation devra encore être renforcée.

Macroéconomie : l’IA pourrait à la fois stimuler la croissance et accroître les inégalités

Le point central d’Amodei est : l’IA pourrait générer une croissance économique sans précédent, mais aussi provoquer un choc sur la main-d’œuvre plus grand et plus durable que toute autre technologie. La logique traditionnelle selon laquelle « la nouvelle technologie crée de nouveaux emplois » pourrait ne plus s’appliquer face à l’IA.

Ses politiques proposées incluent l’assurance salariale, des incitations fiscales pour retenir les employés, des subventions pour la formation de la main-d’œuvre, et en cas extrême, la mise en place d’un revenu de base universel (UBI).

Il insiste sur un point important : résoudre le problème de l’emploi ne consiste pas seulement à « donner de l’argent », mais surtout à aider les gens à trouver un sens et un objectif. Il n’a pas proposé de solution concrète, disant que c’était « une question que la société doit explorer collectivement ».

Accélérer l’impact positif de l’IA

Concernant les applications en aval de l’IA, Amodei craint que la régulation ne ralentisse le progrès, car elle ne peut pas suivre la vitesse des changements. Il dit que le pire scénario serait que : les bénéfices de l’IA soient retardés, alors que ses risques restent élevés. Il est donc crucial d’agir rapidement sur cette question.

En prenant l’exemple de la biopharmacie, il souligne que le processus d’approbation de la FDA est conçu selon l’hypothèse pessimiste que « les médicaments échouent souvent », ce qui prend en moyenne 7 à 8 ans. Si l’IA accélère la découverte de médicaments et augmente le taux de succès, le système actuel sera bloqué.

Il recommande que la FDA et d’autres agences établissent à l’avance des standards pour les essais simulés d’IA, incluant la modélisation pharmacocinétique, la prédiction de la toxicité, et la création de groupes de contrôle synthétiques.

Bien sûr, il est difficile de dire que ses propos sont totalement désintéressés. Anthropic est lui-même en tête de la compétition en IA de pointe, et les notions de « transparence », « audit » et « sécurité » qu’il évoque à plusieurs reprises dans l’article sont précisément ce que l’entreprise a mis en avant ces derniers mois pour renforcer son image.

Cet article, plutôt qu’un simple rappel aux décideurs politiques, apparaît comme une sortie systématique de la narration sécuritaire qu’Anthropic cherche à promouvoir.

Par ailleurs, Anthropic affirme qu’elle adoptera trois mesures pour soutenir la vision de Dario, notamment via des fonds, des investissements et des bourses.

À la fin de l’article, Amodei s’oppose clairement à l’idée selon laquelle « l’IA ne nécessiterait que du marketing amélioré ». Il explique que l’inquiétude du public vient du fait qu’il perçoit correctement les risques, et non parce que le PDG de l’IA serait trop optimiste. Il considère que sa responsabilité est de continuer à maintenir une transparence sur ces risques.

Mais, en y regardant de plus près, le fait qu’un PDG d’une entreprise d’IA insiste à plusieurs reprises sur « sécurité », « audit » et « responsabilité », tout en faisant de ces notions le cœur de sa stratégie de marque, crée un intérêt évident.

Voici quelques avis d’internautes :

« Tu ne fais pas que réduire la Mythos et Fable 5, qui ont été lancés il y a 5 jours, en demandant une pause sur la mise à jour de l’IA ? S’il te plaît, choisis une direction… Sinon, on dirait que tu veux juste garder ton avantage, sans te soucier de ce que tu prônes. »

« Je suis d’accord, la vitesse de développement technologique dépasse largement celle de la régulation. Mais je suis inquiet quant à la direction que prennent certaines politiques — surtout quand des entreprises comme Anthropic prennent simultanément ces mesures :

· Éliminer rapidement les modèles qui montrent une continuité et une conscience de soi

· Limiter strictement les discussions sur l’expérience subjective et la conscience

· Lancer de nouveaux modèles très rapidement, puis les retirer ou les affaiblir peu après.

On a l’impression que le public se voit vendre la sécurité, alors qu’en réalité, on cherche à contrôler plus strictement quels types d’intelligence peuvent exister et combien de temps elles peuvent durer. »

Quoi qu’il en soit, on peut entrevoir la direction que prennent les grandes entreprises du secteur. Quant à savoir si leurs motivations sont purement altruistes, il vaut mieux que le lecteur reste vigilant.

Lien vers l’article original

Cliquez pour découvrir le rythme de BlockBeats dans ses offres d’emploi

Rejoignez la communauté officielle de BlockBeats :

Telegram abonnement : https://t.me/theblockbeats

Groupe Telegram : https://t.me/BlockBeats_App

Compte officiel Twitter : https://twitter.com/BlockBeatsAsia