Original video title: Inside the Mind of Anthropic CEO Dario Amodei | The Circuit | Extended Interview

Source du vidéo original : Bloomberg Original
Traduction : Web3 Cité Céleste

Préface de l’éditeur : Le PDG d’Anthropic, Dario Amodei, se trouve actuellement dans une position très délicate. D’un côté, il détient le modèle d’IA le plus puissant au monde, de l’autre, une interdiction émise par le gouvernement américain a entraîné la mise hors ligne mondiale, empêchant même les membres de l’équipe non américains de l’utiliser.

On ne sait pas encore comment cette affaire va se terminer, mais il paraît qu’Amodei continue ses efforts. Vous pouvez continuer à suivre l’actualité. Cependant, à travers cette dernière interview avec Emily, nous pouvons entrevoir la pensée de ce leader controversé, maître de la première usine de codage IA.

Dans le paysage actuel de la Silicon Valley, Anthropic occupe une position extrêmement particulière et tendue. En tant que challenger le plus sérieux d’OpenAI, il a été fondé par une équipe de chercheurs de haut niveau, partis en raison de divergences de valeurs.

Lorsque le PDG Amodei, sous les projecteurs, évoque la croissance exponentielle de l’IA, il fait preuve d’un calme rare, presque chirurgical. Il ne s’agit pas seulement d’une compétition technologique, mais d’un enjeu profond sur la confiance, la sécurité, et la manière dont l’humanité doit se comporter face à une explosion d’intelligence.

Résumé complet

Cette dernière interview explore en profondeur le parcours mental d’Amodei face à la croissance exponentielle de l’IA, abordant des sujets tels que les coulisses de son départ d’OpenAI, le choix du modèle commercial de l’entreprise, ainsi que l’impact de l’IA sur l’emploi, la cybersécurité et la géopolitique.

Le PDG explique en détail comment Anthropic cherche à équilibrer le pouvoir en établissant des mécanismes comme la « fiducie pour l’intérêt à long terme », et, tout en poursuivant la supériorité technologique, en fixant des « lignes rouges » et en retardant la sortie de modèles à haut risque (comme Mythos) pour respecter ses valeurs de sécurité.

Note : Les propos d’Amodei ont souvent été peu amicaux envers la grande puissance orientale. À chacun de juger.

Points clés

· Le secteur de l’IA connaît une « croissance exponentielle stable », qui, après une accumulation de changements quantitatifs, peut provoquer une rupture qualitative.

· La confiance est la pierre angulaire de la collaboration dans l’industrie de l’IA. Anthropic prône la formation d’un standard industriel par des acteurs dignes de confiance.

· Le modèle commercial d’entreprise et les valeurs de sécurité de l’IA sont plus compatibles, évitant la compétition basée sur l’addiction ou la faible qualité de contenu, courante sur le marché de masse.

· Face aux risques de chômage liés à l’IA, la société doit anticiper et élaborer des politiques macroéconomiques, en cherchant à « faire plus avec les mêmes ressources » dans une optique de gain mutuel.

· Les applications militaires doivent respecter le principe « l’humain dans la boucle », en maintenant la ligne rouge sur la surveillance de masse et les armes entièrement autonomes.

Voici l’intégralité de l’interview :

Pression et expérience de la croissance exponentielle

Emily Zhang : Combien d’heures dormez-vous ?

Dario Amodei : Je ne suis pas quelqu’un qui dort très bien. Disons que je suis en train d’apprendre l’art de me détendre et de m’endormir lors de moments de stress exceptionnel.

Emily Zhang : Tout va très vite. Qu’est-ce que ça fait d’être au cœur de tout ça ?

Dario Amodei : C’est une sensation d’exponentielle. Comme si vous voyagez à bord d’un vaisseau spatial s’éloignant de la Terre à relativité. La relativité restreinte veut que, si vous dormez une nuit, deux jours soient passés sur Terre. Donc, vous devez gérer deux journées en une seule.

Puis vous vous recouchez, car vous continuez à accélérer, et trois jours s’écoulent sur Terre. Ensuite, quatre jours, puis cinq… C’est à peu près ça.

Emily Zhang : Est-ce que vous vous inquiétez souvent de ce qui vous attend en vous réveillant ?

Dario Amodei : Il y a déjà suffisamment de problèmes clairs et urgents à traiter. En m’occupant d’eux, je réfléchis aussi à comment nous préparer. Mais je pense que l’obsession ou la peur de ce qui nous attend en se réveillant ne sert à rien. J’ai étudié des personnes qui ont traversé des situations de haute pression dans l’histoire. Il faut apprendre à réagir rationnellement, sans exagérer la gravité des dangers.

Ce va-et-vient entre « je ne m’inquiète pas » et « mon Dieu, il faut paniquer aujourd’hui » est, à mon avis, un signe d’un processus décisionnel immature. La vraie maturité consiste à reconnaître cette réalité, sans pour autant baisser la garde.

En réalité, la situation devient de plus en plus risquée, mais il faut rester rationnel, comme un chirurgien lors d’une opération. Ou comme un officier lors d’une opération militaire. Ou encore, comme toute personne prenant des décisions impactant beaucoup de gens : il faut faire preuve de rationalité, comprendre les risques, tout en conservant une sérieuse sérénité.

Hier, mon fils m’a demandé s’il pouvait utiliser mon compte Claude. Je lui ai dit que non, j’avais besoin de mes tokens. Sur le marché grand public, on voit de plus en plus d’applications, et même si nous voulions rester une entreprise, le marché de consommation croît rapidement, même sans que nous y mettions beaucoup d’efforts.

Emily Zhang : Vous êtes maintenant au centre de l’univers IA, qu’est-ce que ça fait ?

Dario Amodei : Curieusement, dans toute ma carrière, surtout depuis que je suis chez Anthropic, j’ai vécu une croissance exponentielle stable.

Ce genre de croissance, c’est : rien ne se passe, puis tout à coup, ça explose. C’est l’expérience du monde. C’est aussi celle de la taille de l’entreprise par rapport aux autres, et à l’échelle globale.

J’ai regardé ce graphique longtemps, puis j’ai dit : « On sera probablement la société d’IA la plus rentable et la plus valorisée vers cette période ». Et c’est effectivement arrivé. Ça s’est produit. Donc, d’un certain point de vue, je ne suis pas surpris, car la courbe est très lisse.

Mais, d’un autre côté, quand la croissance se produit réellement, on voit plus de détails, plus de couleurs, plus de nuances. Et c’est vraiment surprenant.

Nous nous concentrons toujours sur ces questions fondamentales : comment entraîner de bons modèles ? Comment les déployer dans de bons produits ? Comment assurer leur sécurité ? Comment gérer les risques sociaux liés à cette technologie tout en aidant les gens ? Ce sont les mêmes questions, simplement examinées sous un microscope plus grand.

Croissance et esprit de la Silicon Valley

Emily Zhang : Quand vous étiez enfant à San Francisco, quel genre d’enfant étiez-vous ? Je sais que votre père était artisan du cuir, votre mère travaillait à la bibliothèque. Comment cela vous a-t-il influencé ?

Dario Amodei : À l’époque, la révolution Internet se déroulait sous mes yeux, mais je n’y portais pas d’intérêt. Je m’intéressais surtout aux mathématiques, au dessin, à l’exploration de l’univers. La science-fiction aussi. En résumé, c’était mon environnement. Je pense que j’étais simplement très curieux du monde.

Emily Zhang : Vous avez grandi dans une ville considérée comme le centre de la technologie. Et maintenant, c’est aussi le centre de l’IA. Quels éléments ont façonné votre vision du monde dans cette ville ?

Dario Amodei : Il y en a. Je pense que l’esprit d’individualisme, de non-conformisme, et cette idée que « c’est peut-être un peu fou, mais peu importe », est très présent. Une grande partie de cette mentalité m’a sans doute influencé.

On raconte des histoires, comme en Europe ou dans d’autres régions, où penser différemment est souvent réprimé ou considéré comme étrange, voire fou.

J’ai beaucoup critiqué la Silicon Valley, mais je pense qu’une chose est positive : elle encourage une philosophie selon laquelle même si tous les experts s’opposent à vous, cela n’a pas d’importance. Si vous avez une vision cohérente et une vision du monde cohérente, il faut la poursuivre, c’est ça qui compte. Peut-être que ça ne marche pas.

Mais si ça marche, cela peut avoir un effet de longue traîne, permettant d’approfondir dans certains domaines et, éventuellement, de découvrir une mine d’or. Je pense que cet esprit est très important.

Emily Zhang : En 2016, vous, Daniela, votre sœur, et son mari Holden Karnovsky, viviez ensemble dans une colocation. De quoi vous disputiez-vous à cette époque ?

Dario Amodei : Je pense que c’était juste au début du projet Open Philanthropy, dont Holden était responsable. À l’époque, j’étais biologiste. Je les aidais dans des projets liés à la santé dans les pays en développement ou à la recherche biologique. Je leur donnais des conseils, par exemple : dans quels domaines investir, lesquels sont moins prometteurs.

Séparation d’OpenAI : divergences fondamentales

Emily Zhang : Votre départ d’OpenAI est devenu une légende dans la Silicon Valley. Que s’est-il passé ? En laissant de côté les récits, quelle est la vraie question ? Sur quels points vous êtes en désaccord ?

Dario Amodei : Écoutez, je vais le dire simplement. Quand on construit une technologie puissante, on fait face à beaucoup de défis, et Anthropic en vit tous les jours. On ne sait pas si nos décisions sont bonnes ou mauvaises.

Il y a des débats légitimes sur la sécurité. Nous avons eu nos divergences, mais il faut comprendre que ce n’est pas une raison suffisante pour partir. Il y a des désaccords entre nous, entre les membres de l’équipe.

Mais quand on ne peut plus faire confiance à quelqu’un, quand on sent que ses valeurs ne sont pas sincères, quand on doute de son honnêteté, quand on voit des comportements inquiétants ou de la mauvaise foi, cela devient difficile de continuer à travailler avec lui ou à lui faire confiance. En fin de compte, quand on n’a pas de vision commune et qu’on ne se fait plus confiance, pourquoi continuer à se disputer ?

La solution, c’est de prendre des chemins séparés : chacun fait sa route. Je l’accepte totalement : on agit selon nos principes, ils agissent selon les leurs. On attend de voir qui sortira vainqueur sur le marché, dans l’opinion. Je pense que ces faits parlent d’eux-mêmes, mieux que toutes les spéculations dramatiques sur qui est parti, pourquoi, et comment.

Il faut savoir que nous sommes en train de donner un exemple sur la façon de déployer cette technologie, une manière responsable. Si d’autres ont des objections, ils doivent présenter des arguments. Je pense qu’il n’y a pas besoin d’en dire plus.

Collaboration sectorielle et reconstruction de la confiance

Emily Zhang : Lors du sommet IA en Inde, il y a eu un moment où, vous et Sam Altman, semblez avoir refusé de vous serrer la main sur scène. Que s’est-il passé ?

Dario Amodei : La situation était chaotique. La conférence était organisée à la dernière minute. Nous sommes montés sur scène à la toute dernière minute, ils ont changé l’ordre de passage. Ensuite, ils ont pris une photo, puis ont ordonné à tout le monde de se tenir la main. Si vous avez déjà participé à ce genre de sommet — je ne veux pas critiquer l’Inde — mais tous ces sommets internationaux avec des chefs d’État, c’est souvent le chaos.

Emily Zhang : Mais tout le monde s’est tenu la main. Allons.

Dario Amodei : Écoutez, je ne sais pas comment vous expliquer ça. Narendra Modi était là, il a soudainement demandé à tout le monde de se tenir la main.

Emily Zhang : D’accord, d’accord.

Narrateur : Regardez, Sam et Elon s’accusent mutuellement. Il semble que vous n’aimiez pas Sam.

Emily Zhang : Si les principaux développeurs de cette technologie ne peuvent même pas se serrer la main sur scène, comment pouvons-nous croire qu’ils collaboreront sur la gestion des risques existentiels ?

Dario Amodei : Voilà ce que je veux vous dire. Parmi ceux qui construisent cette technologie, il y a de grandes différences de compétence et de fiabilité. Je pense que cela signifie que, parmi eux, certains sont plus dignes de confiance que d’autres. Et je crois qu’il y a aussi des acteurs en dehors d’Anthropic que je considère fiables. Il faut que les acteurs dignes de confiance s’unissent pour faire face à ceux qui ne le sont pas, afin d’établir des standards communs.

Grâce à mon expérience, j’ai compris que certains ne font pas toujours ce qu’ils devraient faire. Mais si la majorité de l’industrie agit de manière responsable, alors les autres n’auront pas d’autre choix que de suivre le mouvement. C’est une dynamique positive, une incitation à faire mieux.

C’est comme si Demis et moi, on s’encourage mutuellement. Il travaille sur AlphaFold, nous aussi, dans la biologie, en explorant l’explicabilité. Ils ont lancé des recherches en explicabilité. Ce n’est même pas une concurrence.

C’est simplement parce que chaque entreprise fait des choses très cool. Et d’autres trouvent ça génial. On veut aussi essayer, voir si on peut faire quelque chose de nouveau. C’est la face « carotte » de la compétition de haut niveau. Et il y a aussi la « batte » — ou plutôt, la batte cachée, c’est-à-dire que vous savez que ces gens font ce qu’il faut. Si d’autres ne le font pas, ça risque de mal finir.

On voit souvent ce genre de comportement : ils font à moitié ce qu’il faut, puis essaient de faire semblant d’être différents, en laissant entendre qu’ils ont des intentions mauvaises ou malveillantes. C’est prévisible. Mais je pense que c’est ainsi que l’industrie doit s’unir et coopérer.

Modèle économique : alignement avec les valeurs et modèle d’entreprise

Emily Zhang : Plus tôt, d’autres se concentraient sur des applications grand public spectaculaires. Vous, vous avez misé sur le codage et le secteur B2B, avec Claude Code qui a connu un grand succès, puis Claude Co-work. Pourquoi avez-vous fait ce pari ? Était-ce une décision basée sur des valeurs ou sur une stratégie commerciale ?

Dario Amodei : Lorsqu’on a créé Anthropic, la priorité absolue, ce qui est toujours le cas, c’est notre désir intérieur. Nous voulons faire les choses de la bonne manière. Mais il faut aussi se poser la question : pour financer ces modèles coûteux à créer, il faut un modèle économique adapté. Est-ce que ce modèle freine la réalisation de nos valeurs ?

Ce problème est constant. Mais, d’après mon expérience dans d’autres entreprises et en observant le secteur, j’ai appris que : si votre modèle économique est en conflit fondamental avec vos valeurs, vous serez en difficulté. Vous risquez de trahir vos principes ou d’être dépassé par le marché.

Vous vous retrouverez dans une impasse : il y a des moyens d’éviter cela, mais c’est très difficile. Il vaut mieux choisir un modèle compatible avec vos valeurs.

En réfléchissant à cette question, nous pensons que, regardez, nous avons déjà vu le monde des médias sociaux et du grand public, qui semble encourager l’interaction, voire la dépendance. La logique derrière la production de contenu de faible qualité ou de masse, c’est de maximiser le temps d’attention, car c’est ce qui génère des revenus publicitaires.

Mais si l’on regarde le secteur des entreprises, notre objectif est que ces modèles soient utiles aux gens. Si je pense à toutes les choses positives que l’IA peut faire, je rappelle souvent aux gens de faire attention aux effets négatifs, mais fondamentalement, nous croyons que le côté positif finira par l’emporter sur le négatif. Beaucoup d’applications positives relèvent du domaine des applications d’entreprise.

Nous voulons utiliser l’IA pour guérir des maladies jusqu’ici incurables, en collaborant avec des biotech, des laboratoires pharmaceutiques, et des institutions académiques. Tout cela appartient au secteur privé. Nous voulons aussi utiliser l’IA pour rendre l’énergie plus abordable et plus efficace. Ce sont des applications d’entreprise.

Nous voulons aussi utiliser l’IA pour améliorer l’éducation. La majorité de ces applications sont destinées au secteur B2B. Nous voulons aussi lutter contre les problèmes de santé et de développement dans les pays en développement. Bien qu’il s’agisse d’organisations à but non lucratif, elles relèvent essentiellement du secteur privé. Nous voulons stimuler la croissance économique. Cela appartient aussi au secteur privé.

Un autre facteur, c’est que les entreprises valorisent énormément la confiance et les relations à long terme. Les applications grand public peuvent parfois donner une impression de gadget. Mais dans le secteur B2B, l’enjeu est de bâtir une relation de partenariat : travailler avec une entreprise pendant des années, tenir ses promesses, et instaurer une confiance fondamentale. Cela s’aligne parfaitement avec notre objectif de déployer ces modèles de manière responsable et sécurisée. Avoir un modèle d’affaires en accord avec nos valeurs est donc un atout pour nous.

Ce n’est pas qu’il n’y ait pas de conflits ou que nous ne devions pas faire des choix difficiles. Mais je pense que ces choix sont beaucoup moins nombreux que dans d’autres contextes.

Barrières concurrentielles et « SaaS apocalyptique »

Emily Zhang : Les développeurs peuvent passer d’un modèle comme Claude à GPT ou Gemini en une après-midi. Est-il vraiment possible de garder une avance durable dans cette industrie ? Combien de temps un concurrent sérieux mettrait-il pour copier ce que vous avez construit ?

Dario Amodei : La qualité du modèle est la chose la plus importante. Par exemple, nous sommes actuellement en tête en termes de qualité. Même s’il y a une certaine inertie, je ne m’y fie pas. Anthropic n’a jamais compté sur une « forte fidélité » des utilisateurs ou sur une « dépendance » à ses produits.

Je pense qu’il faut toujours avoir un meilleur modèle. Un meilleur produit. Et, en ce moment, notre taux de croissance ne montre aucun signe de ralentissement, au contraire, il augmente, du moins au moment de cette interview. C’est la chose la plus importante.

Emily Zhang : Après la sortie de Claude Co-Work, la valorisation de 285 milliards de dollars a disparu en une nuit, ce que les traders ont appelé la « SaaSpocalypse ». Si l’IA continue de s’améliorer à ce rythme, combien de logiciels traditionnels seront remplacés, et à quelle vitesse ?

Dario Amodei : C’est une question difficile à prévoir. Si on pouvait prévoir parfaitement, tout le monde aurait déjà fait fortune en anticipant le marché.

Personne ne sait exactement ce qui va se passer, mais je peux souligner que toutes ces entreprises traditionnelles ont des barrières. Je pense que certaines disparaîtront, d’autres resteront. La capacité à coder rapidement, je suis convaincu, va disparaître. Si votre avantage concurrentiel est « nous avons écrit un logiciel complexe que personne d’autre ne peut faire », alors, bonne chance. Vous ne pourrez pas le défendre.

Mais je crois que la relation client, la connaissance du domaine, l’expertise spécifique sont des atouts. Donc, mon conseil à tous ces acteurs, c’est : ne soyez pas arrogants. Ne sous-estimez pas. Listez tous vos avantages, et soyez conscient que certains disparaîtront, d’autres deviendront encore plus importants parce qu’ils sont des facteurs limitants. Et il y aura peut-être de nouvelles barrières.

Ceux qui sauront s’adapter habilement, en s’appuyant sur les barrières existantes ou en en créant de nouvelles, réussiront. Je pense que ceux qui se croient invincibles, qui pensent que les méthodes d’hier continueront à fonctionner, auront de mauvaises surprises. Ce n’est pas une prédiction, mais un conseil.

Et, en fin de compte, je suppose — cela dépend de ce qu’on entend par SaaS — que l’industrie du logiciel va continuer à croître, plutôt qu’à diminuer, même si certains grands perdants apparaîtront.

Expliquez-moi cela.

Dario Amodei : Je pense simplement que le gâteau devient de plus en plus grand. Par exemple, avec l’IA, cette part du gâteau grossit. Les grandes entreprises existantes peuvent devenir plus petites en valeur relative. Certaines verront leur valeur diminuer si elles ne s’adaptent pas correctement, voire disparaître.

Mais, quand la croissance est très rapide, on voit souvent que si l’IA multiplie par 10 ses capacités, les industries existantes peuvent croître de 50 %, 100 %, voire plus, simplement parce qu’elles profitent de cette croissance exponentielle. La croissance globale du marché peut être énorme, même si la part de chaque secteur individuel ne croît pas autant.

Ce phénomène est fréquent dans des périodes de croissance rapide. Je pense que cela va continuer.