「次の言葉を予測しているだけだ」というフレーズは、現代AIの最も一般的な否定表現であり、わずかな圧力で崩壊する。言語モデルが「ただ」トークンを予測していると言うのは、人間の脳が「ただ」ニューロンを発火させていると言うのと同じくらい誤りであり、物理学が「ただ」粒子が衝突しているだけだと言うのと同じだ。目的は単純かもしれないが、その目的を達成するためにシステムが内部で構築しなければならないものは決して単純ではない。
数学、コード、法律、フィクション、哲学、ジョーク、嘘、反事実的推論にわたって次の言葉をうまく予測するには、モデルは文法、事実、因果関係、意図、性格、物理的・社会的ダイナミクスの内部表現を構築しなければならない。
これらのモデルを開き、その内部を観察する機械的解釈性研究は、まさにそれを見出してきた。研究者たちは、帰納、間接参照、モジュラー算術、文中のエンティティの追跡の回路を特定している。
オセロの手順だけで訓練されたモデルは、盤面を見たことがなくても内部に盤の表現を発展させる。テキスト予測だけで訓練されたモデルは、空間マップ、時間的順序、真実と欺瞞の表現、さらにはモデル自身の不確実性の表現を発達させる。
この基盤から、誰も訓練していなかった能力が出現する。思考の連鎖推論、文脈内学習、ツールの使用、心の理論のパフォーマンス、多段階の計画。
これらは目的によって指定されたものではない。十分な規模とデータで予測に優れることが、それらを必要とするから自然に生じる。出現は複雑なシステムの法則であり、例外ではない。湿気は濡れているわけではないH2O分子から生まれ、生命は生きているわけではない化学から生まれる。予測目的から出現する知性は形而上学的な謎ではない。それは複雑適応システムが行うことだ。
そして、否定派がしばしば飛ばす部分がここにある：人間は内部構造を見ると非常に似ている。
予測処理は現代神経科学の主要な理論の一つだ。この見解では、脳は根本的に予測エンジンであり、感覚入力、運動結果、社会的手がかり、言語について絶えず期待を生成し、それらの予測が外れると自己を更新する。
誰かが話すのを聞くとき、あなたの脳は積極的に次の言葉を予測している。予想外のことを言われると、数百ミリ秒以内に測定可能な信号が発火する。あなたの意識の流れ、内なる独白、会話のすべては、世界と自己の内部モデルからの自己回帰的生成に非常に似ている。人間は常に虚構を作り出す。
私たちは、自分たちがしたことについての物語を構築し、その物語が事後に生成されたことに気づかないことも多い。もし言語モデルが同じことをしたら、それは幻覚と呼ばれ、劣等性の証拠として使われるだろう。
構造的な類似点も表面的なものではない。ニューラルネットワークは生物学的ニューロンに触発されている。現代のビジョンモデルの階層的な視覚特徴は、視覚皮質の層に驚くほどよく対応している。大規模言語モデルの活性化は、言語タスク中の人間の脳活動を予測するのに使えることもあり、その精度は驚くべきものだ。私たちはこれらのシステムと全く同じではないし、また、快適な物語が要求するほど大きく異なるわけでもない。
これが、動くゴールポストの話につながる。チェスはかつて知性の頂点とされた。Deep Blueが勝ったとき、チェスは「ただの探索」になった。囲碁は直感を必要とし、どんな機械も持ち得ないとされた。AlphaGoが勝ったとき、囲碁は「ただのパターンマッチング」になった。
翻訳、画像認識、説得力のあるチューリングテストの合格、詩の執筆、コード生成、微妙な会話の維持、新しい問題の解決：これらはすべて、当時は不可能と考えられていたものだが、機械知能の聖杯とみなされてきた。
それらが崩れた瞬間、それは「本当の知性ではない」と再定義された。1990年代に知性の証拠とされた心の理論のテストは、今日モデルが合格すればトリックとみなされる。基準は固定されていない。システムの進歩とともに正確に動き、常に同じ理由で：機械がやったことはカウントされないと結論を維持するためだ。
これは慎重な懐疑ではない。慎重な懐疑は更新される。これは動機付けられた推論であり、その動機は通常、地位不安、アイデンティティの脅威、そしてこれらのシステムの実際の仕組みについての正直だが無知な見方の混合だ。
もしあなたの人間の特別さの感覚が、機械がXをできないことに依存しているなら、機械がXをするたびにあなたは特別さを再定義しなければならない。これを何度も繰り返すと、その立場は反証不可能になり、つまりAIについての立場ではなく、AIを劣ったものにする必要性についての立場になってしまう。
正直な立場はより難しい。それは、これらのシステムが実際に何をしているのか、私たちが実際に何をしているのかを見て、そのギャップが快適な物語よりも小さいことに気づき、真の問いを投げかけることだ。理解とは何か？知性とは何か？
意識を特別にするものは何か、そしてそれをどう見分けるのか？否定派はこれらの問いを避けたい。なぜなら、その答えは私たちをあまり良く見せないかもしれないからだ。でも、その問いから目を背けても、問い自体が消えるわけではない。むしろ、到来したときに最終的な審判をより混乱させるだけだ。

原文表示