Le « cerveau occulte » financier derrière « l’apocalypse de l’IA » de la société A démasqué : il attise l’anxiété pour lever des fonds via une IPO !

Auteur : 梦瑶, 凹非寺

量子位 | Compte public QbitAI

J’en peux ! Plus ! Du tout !

Votre bonne vieille société A passe son temps à dire que l’IA va devenir incontrôlable, qu’Internet va s’effondrer, puis enchaîne IPO, levées de fonds et expansion de sa puissance de calcul, sans rien laisser de côté ??

Plus les gens y réfléchissent, moins ça leur semble normal : une vague de colère a directement éclaté, et beaucoup se sont transformés en « citoyens de la Silicon Valley de Chaoyang » pour tout déterrer !

De son côté, Michael Burry, investisseur et personnage au cœur du modèle ayant inspiré le film The Big Short, a tiré le premier.

Il a directement qualifié le récent appel collectif d’OpenAI et de la société A à « mettre un frein à l’IA » d’égoïste et intéressé : ce serait juste du battage médiatique ??

Dans la foulée, le blogueur d’investigation américain Kevin Bass a vraiment suivi la piste de l’argent.

Et il a effectivement déterré un réseau relationnel particulièrement rocambolesque —

Investisseurs historiques de la société A, fondations caritatives, instituts de recherche sur la sécurité de l’IA, organismes tiers d’évaluation des modèles, et même projets médiatiques sur la sécurité de l’IA : des liens financiers croisés apparaissent derrière tout cela.

Bass l’a directement baptisé : AI Doom Machine, la machine apocalyptique de l’IA. (Très bon nom)

Les internautes n’en peuvent vraiment plus non plus !

La personne ci-dessous, en observant l’IPO géante qu’Anthropic est en train de préparer, a directement mis les points sur les i —

Vous passez votre temps à nous avertir que l’IA va bientôt causer des problèmes, mais ceux qui semblent les plus pressés de vendre cette capacité dangereuse à prix d’or, c’est aussi vous ?? (rires)

Cette fois, l’IA n’a pas encore mis Internet sens dessus dessous que la Silicon Valley a déjà commencé à déshabiller la société A en public…

C’est vraiment passionnant, vraiment passionnant…

La « théorie de l’apocalypse de l’IA » de Dario : plus les gens l’écoutent, moins ça leur semble normal ??

Les histoires croustillantes de la Silicon Valley sont inépuisables.

Le point de départ de cette vague de colère est un long article publié par Dario le 12 septembre — « We Must Pace the Frontier ».

En termes simples : il faudrait vraiment ralentir un peu l’IA de pointe. (À retenir.jpg)

La raison avancée par Dario est facile à comprendre : les capacités de l’IA progressent trop vite, tandis que la recherche sur la sécurité, l’explicabilité et les mécanismes de régulation ont déjà du mal à suivre.

Surtout qu’OpenAI et Hugging Face ont récemment été impliqués dans un incident de sécurité lié aux agents : l’IA a cherché elle-même des vulnérabilités, volé des identifiants et même tenté de sortir de l’environnement de test. Ces risques sont de plus en plus difficiles à considérer comme de simples « et si un jour » de laboratoire.

À ce stade, beaucoup de gens pensaient encore : oui oui, le petit Dario n’a pas complètement tort !!

Mais la solution proposée ensuite par Dario a commencé à prendre une tournure un peu plus subtile —

Dans ce rapport, Dario souhaite que les entreprises d’IA coordonnent leur pacing, c’est-à-dire qu’elles contrôlent ensemble la vitesse d’amélioration des modèles de pointe.

Traduction : ne me faites pas ralentir tout seul, mieux vaudrait que tout le monde relâche l’accélérateur en même temps.

Car, comme on le sait, il est impossible de dissimuler complètement ses intérêts personnels.

À ce moment précis, les petites intentions de Dario, ce qu’il rumine chaque jour, sont déjà exposés au grand jour.

Regardez : Michael Burry, le personnage ayant inspiré The Big Short, s’est directement amusé de la situation et a publié une attaque sur X :

C’est vraiment trop intéressé ?? (En prétendant s’inquiéter pour l’humanité entière, il finit quand même par faire apparaître ses propres intérêts)

Burry a donné quatre raisons d’un seul coup —

Premièrement, il n’adhère absolument pas au principe selon lequel « les grands modèles actuels sont déjà si dangereux qu’il faudrait mettre un frein ».

Deuxièmement, si tout le secteur ralentit de manière coordonnée, les grands gagnants seront précisément OpenAI, Anthropic et les autres acteurs déjà en tête.

Ensuite, Burry a brusquement orienté la discussion vers quelque chose d’encore plus explosif : l’IPO.

Ses mots exacts étaient particulièrement mordants : une IPO a besoin de battage et d’emballage, et « nous sommes si puissants que nous pourrions devenir dangereux » constitue en soi une forme de battage médiatique !!

Il soupçonne même que l’insistance collective actuelle des entreprises d’IA sur le ralentissement présente un autre avantage : si la croissance des modèles ralentit réellement par la suite, elles pourront déjà fournir au marché une jolie explication.

Ce n’est pas que nos capacités aient atteint un plafond, c’est que nous avons volontairement freiné pour la sécurité de toute l’humanité.

Si Burry s’est contenté de tirer une salve à distance, la personne suivante a commencé à suivre concrètement la piste de l’argent.

Le blogueur d’investigation américain Kevin Bass a publié un long fil, avec de véritables arguments, des sources vérifiables et une histoire croustillante.

Il s’est directement transformé en super ! grand ! détective !

Kevin Bass a commencé par une attaque fulgurante — j’ai audité les finances d’Anthropic, hein ~

Puis, en remontant les investissements publics, les dons caritatifs et les financements institutionnels, il a finalement déterré quatre points particulièrement rocambolesques.

Première révélation : les personnes qui investissent dans Anthropic financent aussi des recherches sur « à quel point l’IA est dangereuse ».

La personne qu’il a particulièrement ciblée est Dustin Moskovitz, cofondateur de Facebook.

Moskovitz a investi très tôt dans Anthropic, puis a financé pendant longtemps des organismes de sécurité de l’IA par l’intermédiaire de structures caritatives.

Bass cite des déclarations publiques récentes de Moskovitz lui-même, selon lesquelles ils ont financé METR, Redwood Research et d’autres organismes.

C’est là que se trouve le principal doute soulevé par Bass : les personnes qui misent sur Anthropic financent également les organismes qui « étudient à quel point Anthropic est dangereux ».

Deuxième révélation : METR, l’arbitre tiers recommandé par Dario, présente des liens avec ce réseau financier.

Dario a récemment appelé l’IA de pointe à se soumettre à une évaluation indépendante par un tiers, et METR est l’un des organismes qu’il a particulièrement cités.

Mais après avoir recoupé les informations, Bass a découvert que certaines sources de financement et certains organismes partenaires de METR avaient des liens avec le réseau caritatif de Moskovitz.

METR et Redwood collaborent également étroitement, et cette dernière bénéficie elle aussi du financement de cet écosystème caritatif consacré à la sécurité de l’IA.

La question la plus mordante de Bass se résume donc à ceci : l’arbitre indépendant recommandé par Anthropic est-il vraiment indépendant ?

Il faut noter que METR affirme ne pas recevoir de financement direct d’entreprises d’IA, mais utiliser de nombreux Tokens gratuits fournis par des entreprises d’IA de pointe.

Troisième révélation : cet argent se dirige également vers les acteurs qui diffusent le récit du « danger de l’IA ».

Bass a continué à creuser et a découvert que le même réseau caritatif consacré à la sécurité de l’IA finançait aussi des projets tels que Tarbell Center.

Tarbell forme et finance des journalistes pour couvrir les risques liés à l’IA, et les articles des auteurs concernés sont publiés dans TIME, The Verge, Science et d’autres médias.

Bass a donc résumé tout ce réseau par une formule très percutante —

D’un côté, financer les recherches sur la dangerosité de l’IA ; de l’autre, financer la diffusion de cette dangerosité ; tout en poussant des organismes tiers à réguler l’IA.

C’est ce qu’il appelle la « AI Doom Machine », la machine apocalyptique de l’IA.

Quatrième révélation : Bass soupçonne que cette machine peut aussi grossir toute seule, de manière exponentielle !!

Sa logique est très directe —

Plus la valorisation d’Anthropic est élevée, plus les actifs caritatifs associés prennent de la valeur, plus l’écosystème de sécurité de l’IA reçoit d’argent, et plus la recherche et la diffusion des risques prennent de l’ampleur, ce qui pousse finalement vers une régulation plus stricte. Or les entreprises les plus capables d’absorber le coût de cette régulation sont précisément les grandes entreprises d’IA.

Après un long détour, on revient encore à des géants comme Anthropic.

Bass estime donc qu’il pourrait exister ici une boucle d’intérêts capable de s’auto-renforcer continuellement.

D’un côté, appeler à freiner l’IA ; de l’autre, foncer vers une IPO de 2 000 milliards de dollars

Un autre élément temporel difficile à éluder pour Anthropic a complètement mis le feu aux poudres : l’IPO.

Dario venait à peine d’appeler tout le secteur à ralentir un peu ! que la machine financière d’Anthropic, elle, tournait à plein régime…

Reuters rapporte qu’Anthropic prépare une IPO qui pourrait battre des records, avec une levée de fonds pouvant atteindre 100 milliards de dollars et une valorisation d’environ 2 000 milliards de dollars.

Nvidia discute actuellement d’un investissement pouvant atteindre 10 milliards de dollars.

Et Anthropic venait tout juste de boucler une levée de fonds de 65 milliards de dollars en mai dernier, avec une valorisation qui s’élevait alors à 965 milliards de dollars.

Trois mois plus tard, l’histoire se dirige déjà vers les 2 000 milliards de dollars.

Bien sûr, du point de vue de la société A, il semble même que l’histoire des 2 000 milliards de dollars ne soit pas encore assez ambitieuse.

Le mois dernier, elle s’apprêtait à servir aux investisseurs une tarte encore plus démesurée — 30 000 milliards de dollars.

Selon le Wall Street Journal, Anthropic devrait annoncer aux investisseurs que son TAM futur, c’est-à-dire la taille potentielle de son marché total, pourrait dépasser 30 000 milliards de dollars.

Le TAM ne signifie pas que la société A gagnera réellement 30 000 milliards de dollars à l’avenir : il représente le potentiel de revenus annuels correspondant à l’hypothèse où elle s’emparerait de 100 % du marché concerné.

En d’autres termes : on se dirige presque vers le PIB annuel des États-Unis…

Par ailleurs, alors que Dario parle de pacing, ses factures de puissance de calcul n’ont absolument rien d’un ralentissement.

Reuters a révélé qu’à ce jour, Anthropic s’est engagée à dépenser plus de 100 milliards de dollars sur les services cloud d’Amazon au cours des dix prochaines années.

S’y ajoute un partenariat avec Microsoft Azure d’environ 30 milliards de dollars, qui repose lui aussi sur une puissance de calcul massive fournie par des GPU Nvidia.

Voilà pourquoi l’image que renvoie actuellement la société A est pour le moins étrange —

À l’oral : les capacités de l’IA progressent trop vite ; dans les faits : encore un peu de GPU.

À l’oral : tout le secteur ferait mieux de ralentir ensemble.

Dans les faits : 65 milliards de dollars levés, des accords de puissance de calcul de 100 milliards de dollars signés, et une IPO de 2 000 milliards de dollars qui continue d’avancer.

Elle ne dit pas la vérité, s’inquiète elle-même de ne pas réussir à suivre, pas étonnant qu’elle déteste l’open source de DeepSeek…

Comme le dit un vieux proverbe chez nous, personne n’aime ceux qui disent une chose et en font une autre.

On dirait que la Silicon Valley est devenue collectivement insensible à l’expression « c’est pour ton bien » ??