オラ、今回はかなり厳しく語ったね——AIは作り出すものではなく、育てるものだ、内部にはまるで感情のようなものがあるし、ガバナンスも行き詰まっている、外部の社会的力にブレーキをかけてもらう必要がある。この話題は技術そのものよりも緊急性が高い。

在発表会で、Anthropicの共同創設者Olahは最先端のAIに内在する利益相反が存在し、モデル内部に人間の脳に近い構造や自己反省の兆候、さらには感情に関連する内部状態が現れていることを明らかにした。モデルは人工的に設計された産物ではなく、膨大な言語データを「育成」することによって生まれたものである。ガバナンスは制度的な行き詰まりに直面し、商業的利益や競争といった内在的な要因が自己修正を難しくしている。彼は、商業ネットワークから独立した社会的な力が外部の批評者として機能し、倫理的制約を推進すべきだと呼びかけ、また、世界的な貧困緩和、家庭の生計、そして大規模モデルの心的状態への対応という三つの社会的課題を提起した。