أولاه هذه المرة كانت قوية جدًا — الذكاء الاصطناعي ليس مصنوعًا، بل مُربى — داخله يوجد شيء يشبه المشاعر، والإدارة عالقة بالفعل، ويجب الاعتماد على قوى المجتمع الخارجية لفرملة الأمور. هذا الموضوع أكثر إلحاحًا من التقنية نفسها.

في مؤتمر صحفي، كشف المؤسس المشارك لشركة أنثروبيك أولاه عن وجود تضارب داخلي في المصالح في الذكاء الاصطناعي المتقدم، حيث تظهر داخل النموذج هياكل وتقنيات تأمل ذاتي تشبه الدماغ البشري، وحتى حالات داخلية مرتبطة بالمشاعر. النموذج ليس نتاج تصميم بشري، بل تم "تربيته" من خلال كميات هائلة من البيانات اللغوية. تواجه الحوكمة مأزقًا هيكليًا، حيث يصعب تصحيح الانحرافات الداخلية بسبب المصالح التجارية والمنافسة. ودعا إلى أن تلعب قوى المجتمع المستقلة عن الشبكة التجارية دور المراقب الخارجي، لدفع حدود الأخلاق، وطرح ثلاث قضايا اجتماعية رئيسية: تخفيف الفقر العالمي، معيشة الأسر، والتعامل مع الحالة الذهنية للنماذج الكبيرة.