Titre de la vidéo : L'offre et la demande de jetons IA | Interview de Dylan Patel
Auteur de la vidéo : Invest Like The Best
Traduction : Peggy, BlockBeats

Note de l'éditeur : Dans un contexte où les capacités des modèles d'IA continuent de progresser rapidement, et où des outils comme Claude Code, Cursor, sont massivement intégrés par les entreprises, les discussions dans l'industrie évoluent du « à quel point le modèle est puissant » vers « comment faire entrer le modèle en production ». Mais alors que la programmation IA, l'automatisation analytique et la modélisation de données deviennent des consensus, une question plus fondamentale émerge : lorsque le coût d'exécution baisse rapidement, ce qui devient réellement rare, ce n’est pas la main-d'œuvre, le capital, ou l’accès aux modèles de pointe et aux tokens, mais le droit d’utiliser ces modèles et ces tokens ?

À gauche, Patrick O'Shaughnessy, animateur ; à droite, Dylan Patel

Cet entretien est une synthèse d’un échange entre Patrick O'Shaughnessy et Dylan Patel, fondateur de SemiAnalysis. Dylan, qui s’intéresse depuis longtemps à l’infrastructure IA, à la chaîne d’approvisionnement des semi-conducteurs et à l’économie des modèles, y aborde, à partir de l’explosion des dépenses de sa société Claude Code, comment l’IA transforme l’organisation des entreprises, les services d’information, la demande en tokens, la chaîne d’approvisionnement en puissance de calcul, et l’état d’esprit social.

Ce qui est le plus remarquable dans cet échange, ce n’est pas qu’un modèle ait encore une fois battu un benchmark, mais la façon dont il propose une nouvelle compréhension de l’économie de l’IA — en la voyant comme un système de production en train de redistribuer les capacités d’exécution, l’efficacité organisationnelle et les profits industriels, plutôt qu’une simple mise à niveau d’outils logiciels.

On peut globalement comprendre cet échange selon cinq angles.

Premièrement, le coût d’exécution est en train d’être brisé. Autrefois, les idées n’étaient pas rares, la vraie difficulté était de transformer une idée en produit, système ou service livrable. Aujourd’hui, Claude Code permet à des non-techniciens d’écrire du code, de monter des applications, de faire de l’analyse de données ; des tâches qui nécessitaient auparavant une équipe dédiée, peuvent désormais être accomplies par quelques personnes utilisant des modèles. Les dépenses annuelles de SemiAnalysis pour Claude Code ont atteint 7 millions de dollars, soit plus d’un quart de ses coûts salariaux, ce qui montre que l’IA ne se limite plus à un outil d’efficience, mais devient un nouveau capital de production pour l’entreprise.

Deuxièmement, le secteur des services d’information est le premier à être réécrit. La majorité des activités de Dylan concernent la vente d’analyses, de conseils et de jeux de données, qui sont précisément les domaines les plus facilement marchandisables par l’IA. Analyse inverse de puces, modélisation de réseaux électriques, construction d’indicateurs macroéconomiques : autrefois, cela nécessitait une équipe à long terme, maintenant quelques personnes peuvent produire un produit utilisable en quelques semaines. Cela signifie que la pression sur les sociétés de services d’information n’est pas « vont-elles remplacer l’humain », mais « qui pourra refaire plus vite le produit de ses concurrents ». Les entreprises qui n’adoptent pas l’IA seront rapidement dépassées par celles qui le font, et celles qui adoptent devront sans cesse hausser leurs standards pour ne pas être remplacées par des acteurs plus efficaces.

Plus profondément, les tokens deviennent une nouvelle matière première de production. Autrefois, les entreprises achetaient des abonnements logiciels, la question centrale étant si l’outil était pratique. Désormais, l’accès aux modèles de pointe, la limite de débit, les contrats d’entreprise et le budget de tokens déterminent directement la capacité de production. Un modèle plus puissant n’implique pas forcément un coût supérieur, car un token plus intelligent peut accomplir en moins d’étapes une tâche à haute valeur ajoutée. La compétition ne se limite plus à « qui utilise l’IA », mais à « qui peut accéder au modèle le plus puissant et utiliser ses tokens les plus coûteux dans les scénarios à forte valeur ».

Ce besoin se transmet aussi à toute la chaîne d’approvisionnement. La croissance explosive de l’utilisation des tokens finira par exercer une pression continue sur les GPU, CPU, mémoire, FPGA, PCB, cuivre, équipements semi-conducteurs et fonderies. La « loi des effets de fouet » évoquée dans l’article illustre cette logique : ce qui semble être une simple augmentation de la demande pour l’appel de modèles en aval peut se transformer en commandes multipliées par plusieurs, en extension de capacité et en hausse des prix en amont. La rentabilité de l’industrie IA ne se limite pas aux modèles ou à NVIDIA, mais se diffuse le long de la chaîne des semi-conducteurs et des centres de données.

Enfin, la réaction sociale à l’IA pourrait arriver plus tôt que prévu. Lorsqu’elle s’intègre réellement dans le flux de travail, la crainte du remplacement d’emplois, de la consommation énergétique, de l’expansion des data centers et de la concentration du pouvoir s’intensifiera. Dylan prévoit même que dans trois mois, il pourrait y avoir des protestations massives contre l’IA. Pour les entreprises de modèles, continuer à insister sur « l’IA va changer le monde » ne suffira pas à apaiser l’anxiété, au contraire, cela pourrait renforcer l’imagination d’un dérapage incontrôlé. L’industrie IA doit désormais prouver sa valeur concrète et perceptible pour la société, au-delà de ses capacités techniques.

Aujourd’hui, la question centrale de l’IA évolue de « ce que le modèle peut faire » à « qui peut accéder au modèle, comment l’utiliser, et qui peut capter la valeur créée ». En ce sens, le sujet de cet article ne concerne pas seulement Claude Code, Anthropic ou une autre société IA, mais une réorganisation structurelle autour de la productivité, des dépenses en capital, de l’efficacité organisationnelle et de l’acceptation sociale.

Voici le contenu original (pour faciliter la lecture, il a été quelque peu réorganisé) :

TL; DR

· La variable centrale de l’IA évolue de « peut-on faire » à « vaut-il la peine de faire », après une chute brutale des coûts d’exécution, la véritable rareté étant désormais les idées à haute valeur, amplifiées par les modèles.

· La dépense pour Claude Code représente 25 % des coûts salariaux, ce n’est que le début : l’IA devient un nouveau capital de production pour l’entreprise.

· La compétition autour des modèles de pointe ne se limite plus à la capacité, mais à l’accès aux tokens ; celui qui pourra accéder plus tôt et plus stable aux modèles les plus puissants pourra créer une nouvelle barrière commerciale.

· Le secteur des services d’information sera le premier à être restructuré par l’IA, car le coût de production des données, analyses et recherches baisse rapidement ; les entreprises lentes seront dépassées par celles qui adoptent plus vite.

· La demande en tokens ne ralentira pas avec la baisse des prix des anciens modèles, car chaque avancée de modèle libère de nouveaux cas d’usage à haute valeur, poussant les utilisateurs vers des modèles plus avancés et coûteux.

· La plus grande transformation apportée par l’IA n’est pas la réduction du travail, mais la multiplication par plusieurs du rendement de ceux qui savent utiliser l’IA ; ceux qui ne peuvent pas créer ou capter la valeur des tokens resteront « en permanence sous-jacents ».

· La pénurie de puissance de calcul se diffuse dans toute la chaîne des semi-conducteurs, des GPU, CPU, mémoire, jusqu’aux équipements et matériaux, l’ensemble du secteur subissant une pression prix continue. La demande IA devient un moteur de prix pour toute l’industrie.

· La valeur économique de l’IA est difficile à mesurer dans le PIB traditionnel ; le vrai enjeu n’est pas combien gagnent les modèles, mais combien de « GDP fantômes » (valeur indirecte, effets en chaîne) ils génèrent.

Entretien intégral :

Claude Code devient la nouvelle force de travail

Patrick O'Shaughnessy (animateur) :
Tu m’as raconté une histoire très intéressante, concernant la croissance explosive de votre utilisation de tokens cette année. Tu peux la redire ? Qu’est-ce que cela t’a appris sur ce qui se passe dans le monde ?

Dylan Patel (fondateur de SemiAnalysis) :
L’année dernière, on pensait déjà être de gros utilisateurs d’IA. Tout le monde utilisait ChatGPT, tout le monde utilisait Claude, j’avais aussi souscrit à plein d’abonnements pour l’équipe. À l’époque, nos dépenses dans ce domaine étaient de quelques dizaines de milliers de dollars par an.

Mais cette année, la dépense a explosé. Le vrai point de départ, c’était fin décembre dernier, avec l’arrivée d’Opus. Et aussi Doug, notre président, qui pousse à faire écrire du code par des non-techniciens avec l’IA. Il a presque entraîné toute l’entreprise dans cette direction. Bien sûr, les ingénieurs utilisaient déjà l’IA, mais à partir de janvier, nos dépenses ont vraiment commencé à grimper, puis ont explosé rapidement.

Plus tard, nous avons signé un contrat d’entreprise avec Anthropic. La dernière fois qu’on en a parlé, nos dépenses annuelles étaient d’environ 5 millions de dollars ; aujourd’hui, elles sont de 7 millions.

Patrick O'Shaughnessy :
Et c’était la semaine dernière, en plus.

Dylan Patel :
Exact. Une grande partie de cette dépense, c’est l’usage lui-même. Ce qui est vraiment intéressant, c’est que des personnes qui n’avaient jamais écrit de code auparavant utilisent maintenant Claude Code, et certains dépensent plusieurs milliers de dollars par jour. Mais globalement, nos dépenses pour Claude Code atteignent déjà 7 millions de dollars par an, alors que nos coûts salariaux sont d’environ 25 millions. En d’autres termes, Claude Code représente plus de 25 % de nos coûts salariaux.

Si cette tendance continue, d’ici la fin de l’année, cela pourrait dépasser 100 % de nos coûts salariaux. C’est un peu effrayant. Heureusement, je n’ai pas à choisir entre « l’humain » et « l’IA », car la croissance de l’entreprise est rapide. Je peux ne pas embaucher vite, mais dépenser plus dans l’IA, et cela marche, ce qui accélère la croissance.

Mais je pense que d’autres entreprises finiront par faire face à cette question : si une seule personne utilisant Claude Code peut faire le travail de 5, 10, voire 15 employés, que faire ? D’abord, peut-être qu’il faut licencier. Ensuite, ces usages sont très variés.

Par exemple, dans l’Oregon, on a un laboratoire d’ingénierie inverse, en activité depuis un an et demi. Il y a beaucoup d’équipements sophistiqués : microscopes, microscopes électroniques à balayage. Leur but principal, c’est analyser des puces, en extraire l’architecture, étudier les matériaux utilisés. C’est aussi une de nos offres de données.

Mais analyser ces données, c’était très lent avant. Maintenant, un seul de nos employés, en dépensant quelques milliers de dollars en tokens, a créé une application. Elle accélère le traitement GPU, tourne sur nos serveurs CoreWeave. En lui envoyant une photo de puce, il peut automatiquement repérer chaque matériau : cuivre, tantale, germanium, cobalt. Ensuite, il peut faire une analyse par éléments finis, en visualisation, avec un tableau de bord complet.

Ce gars, ancien employé d’Intel, m’a dit qu’avant, c’était une équipe entière pour faire ça et le maintenir. Maintenant, c’est impensable, mais ça marche pour toute l’entreprise.

Un autre exemple très intéressant, c’est Malcolm. Ancien économiste dans une grande banque, avec une équipe de 100 à 200 personnes. Aujourd’hui, il a créé quelque chose d’incroyable.

Il a connecté toutes sortes de données : FRED, rapports d’emploi, API diverses. On a aussi signé avec des fournisseurs de données pour accéder à leurs API. Il a rassemblé tout ça, lancé des régressions, analysé comment les changements économiques influencent l’inflation ou la déflation.

L’US Bureau of Labor Statistics a une classification de 2000 tâches. Malcolm utilise l’IA pour évaluer : quelles tâches peuvent aujourd’hui être faites par l’IA, lesquelles ne le sont pas, et il leur donne une note selon une grille. Résultat : environ 3 % des tâches sont désormais réalisables par l’IA.

Il a créé un indicateur pour mesurer ce qui peut être automatisé et l’impact déflationniste potentiel. La production pourrait augmenter, mais à cause de la baisse des coûts, le PIB pourrait en réalité se contracter. Il l’a appelé « GDP fantôme » (Ghost GDP).

Il a fait toute une analyse autour de ce concept, et construit un nouveau benchmark pour modèles linguistiques, avec environ 2000 évaluations.

Patrick O'Shaughnessy :
Tout ça, c’est lui seul ?

Dylan Patel :
Oui, tout seul. Il m’a dit : « Frère, ça aurait pris une équipe de 200 économistes un an pour faire ça. » Maintenant, il est complètement immergé dans Claude, tout a changé.

Patrick O'Shaughnessy :
En tant qu’entrepreneur, comment tu vois ça ? Vous êtes passé de presque rien en dépense IA à près de 25 % des coûts salariaux, et ça continue d’augmenter. À quel moment te dis-tu : « Attends, il faut peut-être freiner, contrôler les dépenses » ? Peut-être qu’on n’a pas besoin d’utiliser le dernier modèle à la mode, comme Opus 4.7, mais un modèle moins cher ?

Dylan Patel :
Au fond, je fais de l’information. On vend de l’analyse, du conseil, des jeux de données. Je ne vois pas pourquoi ces choses ne seraient pas rapidement totalement marchandisées.

Si je ne continue pas à améliorer, le premier produit de données qu’on a lancé, d’autres le font aussi. On peut continuer à vendre parce qu’on l’améliore, le détaille. Mais la façon dont on fait ça en 2023, c’est très proche de ce que font les autres aujourd’hui. Si je ne monte pas en standard, je serai remplacé par la marchandisation. Si je ne vais pas vite, je perds mon avantage.

Donc la question est : oui, l’IA va marchandiser beaucoup de choses, comme elle l’a fait avec les logiciels. Mais ceux qui agissent vite, qui maîtrisent la relation client, qui offrent un service excellent et s’améliorent sans cesse, ne rétréciront pas, au contraire, ils croîtront plus vite. Ceux qui ne font rien, perdront.

C’est un peu une question de survie : si je n’adopte pas l’IA, d’autres le feront, et ils me battront.

Un exemple simple : dans le secteur de l’énergie. On a un groupe d’analystes en énergie depuis un an, qui essaient de construire un modèle. Très complexe, et un marché de 900 millions de dollars. C’est un gros marché que je veux pénétrer. Mais, malgré un an de travail, on n’a pas vraiment lancé de service d’énergie.

Puis, la « Claude Code syndrome » est arrivée. Jeremy, responsable énergie et data center, a commencé à utiliser Claude Code. En trois semaines, il a dépensé beaucoup, environ 6000 dollars par jour, ce qui est énorme. Mais il a récupéré toutes les centrales électriques américaines, toutes les lignes à haute tension, en utilisant des données publiques, en construisant une carte du réseau électrique américain, avec beaucoup de données de demande.

On a fait un tableau de bord pour voir les pénuries et surplus électriques par micro-région, en quelques semaines.

Après, on l’a montré à certains clients, notamment des traders en énergie. Ils ont dit : « Ça a pris combien de temps ? C’est super, mieux que tel ou tel. » En creusant, on a appris que cette société concurrente, avec 100 personnes, y travaille depuis dix ans.

Notre produit n’est pas aussi complet, aussi robuste, mais dans certains aspects, il est meilleur. Donc, on commence à marchandiser ces données énergétiques. Mais si on ne va pas plus vite, qui le fera à notre place ?

Du point de vue d’un chef d’entreprise, ce n’est pas « j’ai dépensé beaucoup ». C’est : qu’est-ce que ça m’a rapporté ? Si ça rapporte plus, c’est justifié.

Patrick O'Shaughnessy :
Tu as peur qu’au final, ceux qui contrôlent le capital, qui investissent, ceux qui embauchent pour analyser, disent : « On a nos analystes, ils sont intelligents, on peut faire ça nous-mêmes » ? Si c’est si facile, tout reviendra dans les mains des investisseurs ? Parce qu’eux, ils ont le plus à gagner de ces données et insights.

Dylan Patel :
D’abord, toute activité d’information fonctionne comme ça : la valeur que je tire d’une donnée est toujours inférieure à celle que le client en retire.

Si je vends une information à 1 dollar, c’est parce que le client sait que cette information l’aidera à prendre une décision qui lui rapportera plus de 1 dollar. Il y a une opportunité d’arbitrage. L’argent qu’il gagne grâce à cette information est supérieur à ce que je gagne en la vendant.

Les fonds d’investissement ont aussi leur propre capacité d’analyse. Des acteurs comme Jane Street ou Citadel ont des données très pointues, très approfondies. Mais ils achètent toujours nos données, et continuent de le faire, leur partenariat croît.

Il y a un « facteur » que je perçois : nous sommes plus rapides, plus agiles, une équipe plus petite, concentrée sur une niche : l’infrastructure IA, la révolution qu’elle entraîne, la token économie. Nous voyons plus tôt, nous construisons plus vite.

Les investisseurs essaieront sûrement de faire eux-mêmes ce qu’on fait. Mais souvent, ils achètent nos données, puis construisent dessus. C’est moins cher que de tout faire eux-mêmes. Mais, bien sûr, certains finiront par tout faire eux-mêmes.

Les tokens deviennent une nouvelle matière première de production

Patrick O'Shaughnessy :
Je pense qu’à chaque fois qu’on discute, je reviens à cette question : l’offre et la demande de tokens. C’est ce qui m’intéresse le plus. Avec ton expérience, as-tu une nouvelle compréhension de la demande ? Quand tu la ressens personnellement, ton jugement change-t-il ?

Dylan Patel :
Si on prend du recul, à l’échelle macro, le chiffre d’affaires d’Anthropic est passé de 9 milliards à 35-40 milliards de dollars, peut-être 45 milliards quand cette émission sera publiée.

Mais leur puissance de calcul n’a pas suivi cette croissance. Si on calcule, en supposant qu’ils n’ont pas réduit leur R&D, qu’ils continuent à sortir de nouveaux modèles comme Metis, Opus 4, 4.7, alors leur marge brute minimale, même en consacrant toute leur puissance à l’inférence, reste autour de 72 %.

En réalité, une partie de cette nouvelle capacité de calcul est aussi consacrée à la R&D, donc leur marge réelle pourrait être supérieure à 72 %. Au début de l’année, une fuite de documents de financement montrait une marge brute d’un peu plus de 30 %.

Comment une entreprise peut-elle, en si peu de temps, faire passer sa marge brute à ce niveau ? En gros, c’est parce que la demande est très forte. Elle peut limiter l’usage, appliquer des quotas, des restrictions. Mais l’essentiel, c’est d’avoir un gestionnaire client chez Anthropic, des contrats d’entreprise, et la capacité d’obtenir des augmentations de limite de débit. Sinon, les tokens finiront par devenir extrêmement rares.

Ceux qui peuvent payer, auront accès. La même logique s’applique à Anthropic : ils ont des clients qui payent 40 milliards de dollars par an en tokens, mais la valeur créée par ces tokens dépasse largement ce montant.

La valeur par token diffère selon les entreprises. Mais plus les modèles deviennent intelligents, plus il devient crucial de savoir qui peut accéder aux tokens les plus intelligents, et les utiliser pour les tâches à forte valeur.

En tant qu’individu, il faut décider comment utiliser ces tokens pour faire croître son activité, créer de la valeur. Beaucoup veulent des tokens, en consomment. Mais une startup SaaS à San Francisco qui génère des logiciels avec Claude ne crée pas forcément une énorme valeur. Donc, tôt ou tard, leur prix sera poussé vers le bas par la concurrence.

Patrick O'Shaughnessy :
Ce matin, en vol, j’ai rencontré ce problème. Dès la sortie d’Opus 4.7, j’ai voulu l’utiliser immédiatement. Mais j’ai été limité, je ne pouvais pas. Je ne peux même plus envisager d’utiliser Opus 4.6, alors que ces dernières semaines, j’en étais très satisfait, il était déjà très puissant.

Tu n’es pas surpris que les gens soient si obstinés à utiliser les modèles les plus coûteux, les plus avancés ?

Dylan Patel :
Pas du tout. La dernière semaine, je me souviens d’une des anecdotes les plus drôles : avec mon ami Leopold, on a presque supplié un des cofondateurs d’Anthropic pour qu’il nous donne accès à Metis.

On savait qu’il existait, on lui a dit : « S’il te plaît, laisse-nous l’essayer. » Et il a répondu : « Je ne sais pas de quoi vous parlez. »

Patrick O'Shaughnessy :
Quand la grille tarifaire ou la « eval card » sort, quelle est ta réaction ?

Dylan Patel :
Il y avait déjà des rumeurs à la Bay Area, on savait que ce modèle serait très puissant. Les benchmarks montrent que, même si ceux-ci évoluent, Mephisto / Metis représente probablement la plus grande avancée en capacité de ces deux dernières années.

C’est très important : il est si puissant qu’Anthropic ne veut pas le sortir complètement. Ils ont déjà communiqué certains prix à certains clients, en le déployant de façon sélective, notamment pour la cybersécurité. Son coût en tokens pourrait être 5 à 10 fois supérieur, mais ils hésitent à le rendre accessible à tous, craignant ses impacts dans le monde réel.

Ce qu’on nous donne, c’est une version moins performante, Opus 4.7, et dans la fiche modèle, ils précisent qu’ils ont volontairement réduit ses capacités en sécurité informatique. Peut-être as-tu lu cette partie.

Je pense que, peu importe qui tu es, si tu as assez de capital, tu devrais acheter un abonnement entreprise chez Anthropic, payé en tokens, plutôt qu’un abonnement standard. Ainsi, tu évites d’être limité.

Et tu dois réfléchir à comment utiliser ces tokens pour maximiser leur valeur, et en tirer profit. Parce qu’au fond, dans un ou deux ans, beaucoup d’affaires seront probablement des arbitrages de tokens. Les tokens sont puissants, mais il faut savoir où les diriger.

Dans trois ou quatre ans, le modèle pourra peut-être lui-même apprendre à utiliser ses tokens pour maximiser la valeur.

Regarde n’importe quel benchmark : le coût pour atteindre un certain niveau de capacité était X, il n’est plus que 1 %, voire 0,1 %, du coût initial. Par exemple, pour que DeepSeek atteigne GPT-4, cela représentait environ 1/600 de son coût. Et ce coût continue de baisser.

Bien sûr, personne ne veut vraiment revenir à GPT-4. Ce qui compte, c’est d’accéder aux modèles de pointe, qui créent une vraie valeur économique. Mais GPT-4 reste utile pour certains cas, souvent plus petits.

Ce qui stimule la demande, ce n’est pas la baisse du coût des anciens modèles, mais l’émergence de nouveaux cas d’usage. Si je veux un modèle équivalent à Opus 4.6 ou 4.7 aujourd’hui, cela me coûterait peut-être 70 000 dollars dans un an, soit 100 fois moins.

Mais peu importe, parce qu’à ce moment-là, je vais utiliser un modèle plus puissant pour faire des choses à plus forte valeur.

L’Anthropic Metis, plus cher en modèle, consomme beaucoup moins de tokens pour faire la même chose. Donc, dans la majorité des tâches, il est en réalité plus économique que Opus 4.6.

Dylan Patel :
Parce qu’il est beaucoup plus efficace. Même si chaque token est plus « intelligent » et coûte plus cher, il en faut moins pour réaliser la même tâche.

Patrick O'Shaughnessy :
Lors de notre dernière rencontre, tu disais que Metis était si puissant que ça t’effrayait un peu. Qu’est-ce que tu voulais dire ?

Dylan Patel :
L’objectif d’Anthropic pour 2025, voire dès 2024, c’est qu’ils veulent que leur modèle ait le niveau d’un ingénieur logiciel de niveau L4. En gros, ils ont presque atteint ça avec Opus 4.6.

Mais ce qu’ils ne disent pas, c’est qu’en regardant Metis, en le comparant aux benchmarks, il ressemble à un ingénieur de niveau L6. L4, c’est un débutant, L6, c’est un ingénieur très expérimenté.

Je me souviens qu’Anthropic a dit que ce modèle était utilisable en interne depuis février. En deux mois, ils sont passés d’un ingénieur L4 à un L6. Que va-t-il se passer ensuite ?

En réfléchissant à l’évolution des modèles, on voit qu’elle s’accélère. Le rythme de sortie d’Anthropic se réduit, celui d’OpenAI aussi. Pourquoi ? Parce que pour faire de meilleurs modèles, il faut plusieurs choses.

D’abord, il faut une puissance de calcul énorme, très coûteuse, avec ses propres délais. On suit ça, ça augmente, mais à court terme, c’est fixé. La puissance que vous avez signée, c’est à peu près tout ce qu’il faut.

Ensuite, il faut des chercheurs d’élite, pour lesquels les entreprises dépensent des dizaines de millions.

Enfin, il faut une capacité de réalisation. Historiquement, c’était difficile : une idée, il fallait la mettre en œuvre, et c’était coûteux. Aujourd’hui, les idées sont partout, la mise en œuvre est très facile, mais coûteuse.

Donc la question, c’est : comment un individu décide-t-il quelles idées réaliser ? Résultat : quand la réalisation devient très facile, on peut en faire plus, plus vite.

Cela peut se produire dans la recherche sur les modèles IA, où le cycle de sortie passe de six mois à deux mois. Mais aussi dans d’autres domaines : modéliser chaque centrale électrique, chaque ligne, faire des régressions, analyser la microéconomie. Tout cela devient possible.

Les idées sont peu coûteuses. La vraie question, c’est : lesquelles ont du sens ? Lesquelles valent que vous investissiez des ressources, achetiez des tokens, pour les réaliser ? Parce que la capacité de réalisation est là. C’est la grande transformation.

Si le coût de réalisation continue de baisser — et ça baisse — on n’a même pas encore vraiment utilisé Metis. Opus 4.7 vient de sortir, et déjà, notre équipe est très excitée.

Que va-t-il se passer ensuite ? Je pense que cela va réorganiser l’économie.

Autrefois, l’exécution était difficile, donc précieuse ; l’idée, peu coûteuse. Maintenant, l’idée est abondante, mais l’exécution devient très facile. La seule chose qui reste à faire, ce sont les idées vraiment bonnes — celles qui prouvent qu’il vaut encore la peine d’investir, même si l’exécution est très bon marché.

Tu as peur ? Ou c’est juste une incertitude difficile à maîtriser ?

Dylan Patel :
Il y a de l’incertitude, c’est sûr. Mais je pense que cela va générer une certaine peur. La question, c’est : comment la société va se réorganiser ?

Quand tu vis dans un monde où la capacité à réaliser une chose n’est plus si importante, qu’est-ce qui l’est ? La capacité à choisir la bonne idée pour l’IA, à la vendre, ou à vendre ce que l’IA produit, ou à lever des capitaux pour cette idée. C’est ça qui deviendra crucial.

Et cela revient à la question précédente : qui pourra accéder aux modèles les plus récents ?

Anthropic a un projet, que je surnomme « Earwig » (pour taquiner), qui consiste à ne fournir Metis qu’à certaines entreprises, pour la cybersécurité. Je pense que ce genre de choses va continuer : le déploiement des modèles sera de plus en plus restreint, moins accessible au grand public.

Note : « Earwig » signifie « perce-oreille » en anglais, un petit insecte. Ici, c’est un surnom ironique, évoquant une « invasion silencieuse » ou une influence discrète.

Je sais que OpenAI, Anthropic, et d’autres disent vouloir rendre l’IA accessible à tous. Mais l’IA est très coûteuse. Qui va payer pour l’infrastructure de plusieurs trillions de dollars ? Ceux qui ont de l’argent, et qui peuvent construire des choses utiles avec l’IA.

Et tu ne veux pas que d’autres distillent ton modèle, donc tu ne le publies pas à grande échelle. Tu le réserves à une poignée de clients. Et ces clients vont aussi se disputer l’accès aux tokens.

À moins qu’Anthropic n’augmente fortement ses prix. Elle peut doubler le prix d’Opus, et je continuerai à payer. La majorité des utilisateurs continueront probablement aussi. Mais cela ne résoudra pas leur problème de capacité.

Alors, où s’arrêtera ce cycle ? Quand la demande en tokens et la valeur qu’ils génèrent seront concentrées dans quelques entreprises, que se passera-t-il ?

Je n’ai pas Metis pour l’instant. Mais qui en a ? Les grandes banques, par exemple. Elles l’utilisent peut-être en cybersécurité, mais je peux imaginer un monde où, grâce à un contrat avec Anthropic, je pourrais y accéder plus tôt ou avec une limite plus haute. Et je pourrais en profiter pour surpasser mes concurrents.

Ou encore, un autre scénario : Ken Griffin de Citadel, très influent et riche, pourrait signer un accord avec OpenAI ou Anthropic, pour acheter 10 milliards de dollars de tokens chaque année, en achetant d’abord la part initiale, puis laissant les autres utiliser le reste.

Que se passerait-il ? Il pourrait dominer le marché.

Ce n’est qu’un exemple. Cela pourrait aussi arriver dans la cybersécurité, ou dans l’industrie des services d’information, où je pourrais utiliser ces modèles pour surpasser la concurrence.

L’impact serait vaste. On ne sait pas encore ce que ces modèles peuvent faire. Anthropic, OpenAI, personne ne sait. C’est aux utilisateurs finaux de découvrir : où ces tokens peuvent-ils être utilisés ? Que peuvent-ils construire ? Quelles idées peuvent-ils faire naître ?

Cela pourrait énormément augmenter la productivité, avec des effets positifs. Mais la question, c’est : comment la ressource et le pouvoir d’accès seront-ils concentrés ?

Les robots vont répondre à la prochaine vague de besoins

Patrick O'Shaughnessy :
Aujourd’hui, la consommation de tokens par les robots ou la robotique est presque insignifiante comparée à d’autres secteurs. Qu’en penses-tu ? Cela pourrait-il devenir une nouvelle courbe de demande ? Chaque jour, dans un rayon d’un mile, de nouvelles startups de robotique apparaissent, essayant de faire quelque chose d’intéressant.

Dylan Patel :
Il y a un concept, appelé « singularité logicielle » (software-only singularity). Autrement dit, le monde pourrait d’abord connaître une singularité IA purement logicielle. Mais le problème, c’est que la majorité du monde reste physique. La fin sera que tout s’organisera autour du hardware, pas seulement du logiciel. La « singularité logicielle » ne sera qu’un stade transitoire.

Une fois que le logiciel devient très facile à développer, la vraie difficulté pour les robots, c’est la programmation, les microcontrôleurs, les actionneurs, et leur contrôle. Tout cela est encore très difficile.

Les modèles IA ont une caractéristique intéressante : leur efficacité d’apprentissage est faible. C’est parce qu’on leur donne énormément de données qu’ils apprennent, et dans certains domaines, ils surpassent l’humain.

Mais, aujourd’hui, les modèles de robot comme VLA (Vision-Language-Action) sont très populaires, mais je pense qu’ils ne sont pas la fin de la route. Leur efficacité en termes d’échantillons est faible, et on ne peut pas encore augmenter rapidement leur base de données.

À l’avenir, il y aura sûrement une façon de préformer massivement ces modèles, comme l’humain qui voit et apprend tout au long de sa vie. La vraie force humaine, c’est l’efficacité en peu d’exemples. Un ou deux exemples suffisent pour apprendre.

Si cette capacité s’applique aux robots, la donne changera radicalement. Quand la singularité logicielle sera atteinte, la mise en œuvre deviendra très bon marché, tout le monde pourra construire ces modèles. Ensuite, on pourra créer de vrais robots utiles.

Je pense qu’en 6 à 18 mois, on verra de vraies avancées dans le domaine des robots. La capacité clé, c’est le few-shot learning, l’apprentissage à partir de peu d’exemples. On aura un modèle préentraîné, et on donnera quelques exemples au robot, qui pourra alors accomplir la tâche.

On lui dira : « Fais ça, puis ça », et il le fera. On lui dira : « Tiens, cet objet doit rester équilibré », et il essaiera. J’ai déjà fait tomber des choses moi-même.

Les robots auront donc une capacité d’apprentissage à partir de peu d’exemples.

Il y a déjà beaucoup d’entreprises qui fabriquent des robots, pour la pub ou pour des tâches simples. Mais dans peu de temps, le marché sera très segmenté : robots pour plier des vêtements, pour nettoyer des tableaux, etc. Certains seront loués, d’autres vendus sous forme de modèles. Ils exécuteront la tâche, et vous paierez à l’usage.

Dans tous les cas, le secteur physique va connaître une accélération énorme, avec un effet déflationniste. Cela soutiendra la demande en tokens. Je ne pense pas que cette demande ralentira.

Patrick O'Shaughnessy :
En regardant Metis et sa façon de construire, as-tu appris quelque chose de nouveau sur le monde ? Par exemple, en décomposant les lois d’échelle, comme la préformation…

Dylan Patel :
C’est un modèle beaucoup plus grand que les précédents. 100 000 blocs Blackwell, équivalent à des dizaines de milliers de puces de l’ancienne génération. Bien sûr, TPU et Triton ont leurs rythmes, mais globalement, oui, Metis est un modèle nettement plus gros. Il prouve que les lois d’échelle restent valides. Tout indique que continuer à investir dans la puissance de calcul améliore la capacité des modèles.

Et tout au long du processus, on voit aussi des gains d’efficacité. La R&D dans les laboratoires, tout ce qu’on investit, se traduit par une baisse du coût pour atteindre un certain niveau de capacité : en six mois ou deux mois, on peut y parvenir. Et si on pousse la taille du modèle, on obtient encore des gains de capacité.

Donc oui, cela continue. Google, Anthropic, OpenAI, tous avancent. Leur rythme s’accélère. La tendance est claire : plus on investit, plus les modèles sont puissants.

Cette année, on verra des modèles toujours meilleurs, et le rythme de sortie va s’accélérer.

Patrick O'Shaughnessy :
On a beaucoup parlé, mais on n’a presque pas évoqué OpenAI. C’est étrange, non ?

Dylan Patel :
C’est là que ça devient intéressant. Beaucoup pensent : « Donc, Anthropic a gagné, non ? » Ils ont Metis depuis février, mais ne l’ont pas encore publié, parce qu’ils pensent que ce n’est pas nécessaire. Leur puissance de calcul est déjà vendue, leurs revenus augmentent de 10 milliards par mois. Et aujourd’hui, ils ont sorti Opus 4.7, alors que la rumeur d’un nouveau modèle chez OpenAI, « Spud », circule dans la presse.

En apparence, Anthropic semble en avance, et OpenAI aurait été dépassé. Mais en réalité, Anthropic est limité en puissance de calcul, leur croissance est freinée. Dario disait que leur scaling était plus rationnel, qu’OpenAI était trop agressif. Mais aujourd’hui, ils regrettent peut-être de ne pas avoir investi plus.

OpenAI peut payer ces coûts. Ils ont levé beaucoup d’argent pour augmenter leur capacité. Ils ont aussi acheté de la puissance chez Oracle, CoreWeave, SoftBank, Microsoft, et ont maintenant accès à Trainium de Amazon.

Ils ont fait