Une rancune privée de 10 ans, si ce n'est pas la « hypocrisie » d'OpenAI, alors il n'y aurait pas la société d'IA la plus puissante au monde, Anthropic.

Titre original : « La querelle de dix ans qui façonne l’avenir de l’IA »

Auteur original : Keach Hagey

Le journaliste du Wall Street Journal Keach Hagey a publié un long reportage d’enquête, révélant pour la première fois de manière systématique, à travers de nombreuses interviews d’employés et d’anciens dirigeants des deux entreprises, la querelle personnelle de dix ans entre les fondateurs d’Anthropic et d’OpenAI. Ce qui façonne le paysage mondial de l’IA, ce n’est pas seulement une lutte technologique, mais aussi une blessure personnelle qui n’a jamais guéri.

Dario Amodei a récemment utilisé un langage beaucoup plus fort en interne que dans les lieux publics. Il a comparé le conflit juridique entre Sam Altman et Elon Musk à « la lutte entre Hitler et Staline », affirmant que le président d’OpenAI, Greg Brockman, avait fait un don de 25 millions de dollars à un super PAC pro-Trump, qualifiant cela d’« maléfique » (evil), et comparant OpenAI et d’autres concurrents à des « compagnies de tabac qui continuent de vendre des produits nocifs en toute connaissance de cause ».

Après que le conflit avec le Pentagone s’est intensifié, il a de nouveau qualifié OpenAI de « hypocrite » (mendacious) sur Slack, écrivant : « Ces faits montrent un schéma de comportement que j’ai souvent constaté chez Sam Altman ».

Au sein d’Anthropic, cette stratégie de marque est appelée « alternative saine » (healthy alternative) aux concurrents, et une publicité diffusée pendant le Super Bowl cette année, qui se moquait d’OpenAI pour avoir intégré des publicités dans son chatbot, en est le produit public.

Le point de départ de l’histoire est le salon d’un appartement partagé sur Delano Street à San Francisco en 2016. Dario et sa sœur Daniela Amodei y vivent, et le co-fondateur d’OpenAI, Brockman, vient souvent rendre visite en raison de son amitié avec Daniela. Un jour, Brockman, Dario et le fiancé de Daniela à l’époque, le philanthrope de l’altruisme efficace Holden Karnofsky, se retrouvent pour discuter du bon développement de l’IA : Brockman pense qu’il faut informer tous les Américains de ce qui se passe à la pointe de l’IA, tandis que Dario et Karnofsky estiment que les informations sensibles devraient d’abord être rapportées au gouvernement plutôt que d’être diffusées au public. Ce désaccord deviendra plus tard une ligne de fracture philosophique entre les deux entreprises.

Impressionné par l’équipe talentueuse d’OpenAI, Dario y rejoint en milieu d’année 2016, travaillant avec Brockman à former des agents intelligents d’IA pour jouer à des jeux vidéo. Mais après quatre ans de collaboration, les tensions autour du pouvoir et du sentiment d’appartenance se creusent. En 2017, lorsque l’un des principaux investisseurs d’OpenAI, Musk, demande à dresser la liste des contributions de chaque employé pour procéder à des licenciements, environ 10 % à 20 % des 60 membres de l’équipe sont licenciés un par un, Dario le considérant comme cruel. Parmi les licenciés, l’un d’eux deviendra plus tard co-fondateur d’Anthropic.

La même année, un consultant éthique embauché par Dario propose qu’OpenAI agisse en tant qu’entité de coordination entre les entreprises d’IA et le gouvernement, ce à quoi Brockman répond en évoquant l’idée de « vendre l’AGI aux grandes puissances nucléaires du Conseil de sécurité de l’ONU », ce que Dario considère comme presque une trahison et envisage de démissionner.

Après le départ de Musk en 2018, Altman prend les rênes. Il s’accorde avec Dario sur le fait que les employés manquent de confiance envers Brockman et le scientifique en chef Ilya Sutskever. Dario accepte de rester sous condition que ces deux derniers ne soient plus en charge, mais découvre rapidement qu’Altman a promis aux deux qu’ils avaient le droit de le licencier, ce qui crée une contradiction.

Après le lancement du développement de la série GPT, la direction s’est disputée de manière intense sur qui pouvait participer au projet de modèle de langage. Dario, alors directeur de la recherche, n’a pas permis à Brockman de s’en mêler, et Daniela, qui co-dirigeait le projet avec Alec Radford, a menacé de démissionner si elle n’était pas en charge, les désirs personnels de Radford étant impliqués dans la guerre d’agents parmi les dirigeants.

Les qualifications de Dario ont grimpé en flèche avec le succès de GPT-2 et GPT-3, mais il a le sentiment qu’Altman minimise sa contribution. Lorsque Brockman parle des statuts d’OpenAI sur un podcast, Dario est furieux de ne pas avoir été invité alors qu’il avait apporté une plus grande contribution ; lorsqu’il apprend que Brockman et Altman se rendent rencontrer l’ancien président Obama tout en l’excluant, il est également mécontent.

Le conflit s’est intensifié lors d’une confrontation dans une salle de réunion. Altman a convoqué les frères et sœurs Amodei dans la salle de réunion pour les accuser d’inciter leurs collègues à soumettre des retours négatifs sur lui au conseil d’administration. Les deux nient. Altman déclare que l’information vient d’un autre dirigeant, et Daniela appelle immédiatement ce dirigeant à témoigner, qui dit qu’il n’est pas au courant.

Altman a alors nié avoir dit cela, et une vive dispute a éclaté. Au début de 2020, Altman a demandé aux dirigeants d’écrire des évaluations par les pairs, et Brockman a rédigé un retour très critique accusant Daniela d’abuser de son pouvoir et d’exclure ses opposants par des processus bureaucratiques, Altman ayant préalablement examiné et qualifié cela de « sévère mais juste » (tough but fair). Daniela a réfuté chaque point, et la dispute a atteint un point où Brockman a même proposé de retirer ses commentaires.

À la fin de 2020, une équipe centrée autour de Dario a décidé de partir, Daniela menant les négociations avec les avocats pour leur départ. Altman s’est rendu chez Dario pour le convaincre de rester, mais Dario a proposé de ne travailler qu’en rapportant directement au conseil d’administration et a clairement indiqué qu’il ne pouvait pas travailler avec Brockman. Avant de partir, il a rédigé un long mémo divisant les entreprises d’IA en « orientées marché » et « d’intérêt public », estimant que la répartition idéale était de 75 % d’intérêt public et 25 % de marché. Quelques semaines plus tard, Dario, Daniela et près d’une douzaine d’employés quittent OpenAI pour fonder Anthropic.

Aujourd’hui, cinq ans plus tard, les deux entreprises sont évaluées à plus de 300 milliards de dollars et se disputent la première place pour leur introduction en bourse. En février de cette année, lors de la photo de clôture du sommet AI à New Delhi, le Premier ministre indien Modi et les dirigeants technologiques présents ont levé les mains, tandis qu’Amodei et Altman ont choisi de ne pas participer, se contentant de se toucher les coudes de manière gênante.

Lien original

Cliquez pour découvrir les postes à pourvoir chez BlockBeats

Bienvenue dans la communauté officielle de BlockBeats :

Groupe d’abonnement Telegram : https://t.me/theblockbeats

Groupe de discussion Telegram : https://t.me/BlockBeats_App

Compte officiel Twitter : https://twitter.com/BlockBeatsAsia