Vitalik publie un appel à ralentir le développement de pointe de l’IA et à se concentrer sur la voie de l’intégration approfondie entre l’homme et la machine.

PANews 20 juillet, l’un des cofondateurs d’Ethereum Vitalik Buterin a publié un texte exposant ses points de vue sur l’évolution des capacités de l’IA et l’AGI. Il estime qu’il faut comparer les humains et les machines non pas avec un seul indicateur d’intelligence, mais avec une « échelle de capacités multidimensionnelle ». Il souligne que les trois vagues technologiques de la révolution industrielle, de l’informatique et des LLM ont considérablement élargi les capacités des machines, mais que les humains conservent encore certaines capacités uniques. L’incertitude clé réside dans la question de savoir si les LLM et leur « système d’extensions » couvriront finalement presque toutes les capacités humaines. Vitalik définit l’AGI comme une « IA qui peut maintenir de manière indépendante une civilisation, même si les humains disparaissent et sont téléversés dans des robots », la qualifiant de « point de non-retour » dans la domination de l’humanité sur la Terre. Il plaide pour atteindre « une traversée en ralentissant un couloir étroit » grâce à des poids de modèle en open source et à l’ajustement des incitations liées à la puissance de calcul, et il défend une vision à long terme idéale fondée sur une fusion approfondie homme-machine, le maintien d’un ordre mondial multipolaire et des zones naturelles de protection fortement réglementées à l’échelle de la planète.