Olah kali ini berbicara cukup keras—AI bukan dibuat, tetapi dipelihara—ternyata di dalamnya ada sesuatu yang mirip emosi, pengelolaannya bahkan macet, harus bergantung pada kekuatan sosial eksternal untuk menekan rem. Topik ini lebih mendesak daripada teknologi itu sendiri.

Dalam konferensi pers, salah satu pendiri Anthropic Olah mengungkapkan bahwa AI mutakhir memiliki konflik kepentingan internal, munculnya struktur yang mendekati otak manusia dan tanda-tanda refleksi diri, bahkan keadaan internal yang terkait dengan emosi. Model bukanlah produk yang dirancang secara manusiawi, melainkan "dibudidayakan" melalui data bahasa dalam jumlah besar. Tata kelola menghadapi kebuntuan struktural, dan kepentingan bisnis serta kompetisi internal sulit untuk dikoreksi secara mandiri. Dia menyerukan kekuatan masyarakat yang independen dari jaringan bisnis berperan sebagai pengkritik eksternal, mendorong pembatasan moral, dan mengusulkan tiga isu sosial utama: pengurangan kemiskinan global, penghidupan keluarga, dan penanggulangan kondisi mental model besar.