Олаh цього разу говорив досить різко — ШІ не створений, а вихований, у ньому насправді є щось схоже на емоції, управління застрягло, потрібно покладатися на зовнішні соціальні сили, щоб натиснути на гальма. Ця тема є більш нагальною, ніж сама технологія.

На прес-конференції співзасновник Anthropic Олах розкрив, що передові штучні інтелекти мають внутрішні конфлікти інтересів, внутрішні структури, схожі на людський мозок, і ознаки саморефлексії, а також внутрішні стани, пов’язані з емоціями. Моделі не є штучно створеними продуктами, а «вирощуються» за допомогою величезних обсягів мовних даних. Управління стикається з системними глухими кутами, оскільки внутрішні причини, такі як комерційні інтереси та конкуренція, ускладнюють саморегуляцію. Він закликав до ролі незалежних від комерційних мереж соціальних сил як зовнішніх критиків, що сприятимуть етичним обмеженням, і висунув три глобальні соціальні питання: зменшення бідності у світі, забезпечення сімейного доходу та реагування на ментальні стани великих моделей.