Olah cette fois a été assez dur — l'IA n'est pas créée, elle est cultivée, il y a en elle quelque chose de semblable à des émotions, la gouvernance est même bloquée, il faut compter sur des forces sociales externes pour freiner. Ce sujet est plus urgent que la technologie elle-même.

Lors de la conférence de presse, Olah, co-fondateur d'Anthropic, a révélé que l'IA de pointe présente des conflits d'intérêts endogènes, que des structures proches du cerveau humain et des signes d'auto-réflexion apparaissent à l'intérieur du modèle, voire des états internes liés aux émotions. Le modèle n'est pas un produit conçu artificiellement, mais plutôt "élevé" à partir d'une quantité massive de données linguistiques. La gouvernance fait face à une impasse systémique, les intérêts commerciaux et la concurrence rendant difficile la correction automatique. Il appelle à ce que des forces sociales indépendantes du réseau commercial jouent le rôle de critiques externes, favorisant des contraintes éthiques, et propose trois grands enjeux sociaux : l'atténuation de la pauvreté mondiale, le subsistance familiale et la gestion des états mentaux des grands modèles.