Il y a cette histoire folle sur la façon dont l’un des plus grands trésors de guerre en politique AI au monde a commencé avec une pièce de chien et un placard au Canada. Vitalik Buterin vient de tout expliquer, et honnêtement, c’est devenu bien plus compliqué que ce que tout le monde imaginait.

En 2021, les créateurs de Shiba Inu ont fait un coup qui était purement du génie marketing — ils ont déposé une énorme quantité de jetons SHIB dans le portefeuille de Vitalik sans demander. Le plan était évident : mettre « Vitalik possède la moitié de notre offre » dans les supports marketing et profiter de la hype. Sauf que les jetons ont en fait explosé en valeur à plus de $1 milliard. Vitalik voulait sortir avant que la bulle n’éclate, ce qui a conduit à ce moment absurde où il a dû appeler sa belle-mère au Canada et lui demander d’aller dans son placard, de lire un numéro de 78 chiffres sur un papier, et de l’ajouter à un autre numéro de 78 chiffres dans son sac à dos. C’est comme ça qu’on liquéfie une fortune en shiba inu quand on n’est pas physiquement là.

Il a réussi à vendre ce qu’il pouvait contre de l’ETH et a donné $50 million à GiveWell. Mais il restait encore des montagnes de SHIB, alors il a partagé le reste. La moitié est allée à CryptoRelief pour l’infrastructure médicale en Inde et ses propres recherches. L’autre moitié — environ $500 million après liquidation — est allée à l’Institute for the Future of Life, une organisation axée sur les risques existentiels liés à l’IA, la biotechnologie et les armes nucléaires.

Voici où ça devient intéressant. FLI a initialement présenté à Buterin une feuille de route couvrant les principales catégories de risques et des « initiatives pro-paix et pro-épistémologie ». Il pensait qu’ils allaient encaisser peut-être $10 à $25 million, étant donné la faible liquidité du SHIB. Au lieu de ça, ils ont réussi à sortir $500 million. Une pièce de meme que personne ne prenait au sérieux venait de créer un moment philanthropique d’un milliard de dollars.

Mais ensuite, FLI a changé radicalement de cap. Selon Buterin, ils se sont tournés vers « l’action culturelle et politique comme méthode principale » — un changement assez majeur par rapport à l’approche initiale. Sa préoccupation est réelle : une action politique coordonnée à grande échelle avec des fonds massifs a tendance à se retourner contre soi. Cela peut entraîner des résultats inattendus, provoquer des réactions négatives, et finir par résoudre les problèmes de manière à la fois autoritaire et fragile.

Il a cité la stratégie de biosécurité de FLI comme exemple. Leur approche principale a été d’intégrer des garde-fous dans les modèles d’IA pour qu’ils refusent de produire des résultats dangereux. Mais Buterin voit cela comme fragile, car les jailbreaks et le fine-tuning rendent ces restrictions faciles à contourner. En suivant cette logique jusqu’à son extrême, on aboutit à « interdire l’IA open-source » ou « soutenir une seule entreprise d’IA bienveillante et empêcher toute concurrence ». Des approches comme celles-là se retournent spectaculairement — elles transforment le reste du monde en ennemi.

Il y a aussi un problème structurel avec les stratégies axées sur la régulation. Quand les gouvernements limitent les technologies dangereuses, les organisations de sécurité nationale sont exemptées, et ces mêmes organisations font souvent partie du risque elles-mêmes. C’est une contradiction intégrée.

Cela dit, Buterin a reconnu que certains travaux récents de FLI ont été solides. Il a été encouragé par leur déclaration « IA pro-humaine » qui, apparemment, rassemble conservateurs, progressistes, libertariens, et pays d’Amérique, d’Europe et de Chine. Ils recherchent aussi des moyens d’empêcher la concentration du pouvoir de l’IA, ce qui est important.

Mais le problème central reste : un don que Buterin n’avait jamais prévu de faire, à partir de jetons qu’il ne voulait jamais détenir, a fini par financer une organisation qui a évolué dans une direction qu’il n’avait pas approuvée. Ils déploient maintenant des centaines de millions de dollars de façons qui le mettent mal à l’aise. Il a soulevé ces préoccupations avec FLI en privé plusieurs fois avant de rendre l’affaire publique. La manne du shiba inu s’est transformée en quelque chose de bien plus complexe que ce que tout le monde anticipait.