クロードの頭の中にも、一塊の「意識」が芽生えた。

Claudeモデルにおいて、実際に人間の脳に似た構造が発見された？！

Anthropicが最近発表した非常に長い論文では、Claudeの潜在意識と意識について研究している。

その結果、Claude内部には確かに関能的な階層化が存在することが示された。

具体的には、人間の脳には言葉にできる思考の一部と、自分でも気づいていない大部分がある。

A社の論文によると、この区分けがClaudeにも現れているという。

彼らはClaude内部から、全体の演算量の10分の1未満を占める神経表現の一部を特定し、それが人間の「意識にのぼる思考」のように機能していることを発見した。

AnthropicはこれをJ-spaceと呼んでいる。

興味深いことに、これを削除してもClaudeは会話、情報検索、選択問題への回答は問題なく行えるが、多段階推論や要約といった頭を使う作業は、はるかに小さなモデルのレベルにまで低下する。

ネットユーザーは「これは狂気だ。彼らはまるでデジタル生命を作り出しているようだ」と評している。

J-spaceとは何か、どのように検証されたのか

人間の神経科学には、「グローバル・ワークスペース理論」と呼ばれる広く知られた理論がある。

これは脳を、各自が専門性を持つ多数のエキスパートシステムの集まりと見なすもので、視覚系は視覚を、運動系は運動を処理し、並列かつ互いに隔離された状態で動作する。

情報は、共有された「ワークスペース」に送り込まれて初めて、他のシステムにブロードキャストされ、利用されるようになる。

人間がその情報を「意識する」のも、この瞬間である。

Anthropicの研究者はこの考え方に基づき、Claude内部にも同様のものが存在するかどうかを探った。

彼らはJacobian lens（略称J-lens）と呼ばれる新しいツールを作成した。その原理は、ボキャブラリ内の各単語に固有の方向性を割り当てるというものだ。

具体的には、Claudeのようなモデルはテキストを処理する際、レイヤーを進めるごとに、残差流と呼ばれる情報チャネルに書き込みと読み取りを行う。このチャネルはモデルの各レイヤーを貫通している。

J-lensはボキャブラリ内の各単語に対して対応するJ-lensベクトル、つまり残差流空間内の方向を計算する。

この方向の活性化値が高いほど、Claudeが次にその単語を出力する確率が高くなる。

J-lensを、Claudeがテキストを処理する際のあるレイヤーの残差流活性に適用すると、活性化値が最も高い単語群が読み取られ、それがその瞬間のJ-spaceの内容となる。

これらの単語は、Claudeが自分用に書く下書き（チェイン・オブ・ソートと呼ばれ、出力に書き込まれる）ではない。

しかしJ-spaceは完全に活性化のレベルに埋め込まれており、自ら表面化することはない。

研究者は、これらの内容が「本当に言葉にできるのか」を検証するため、最初の実験を行った。

彼らはClaudeにスポーツを心の中で思い浮かべさせ、それを一言で言わせた。

Claudeが口を開く前に、J-lensで中間層を読み取ると、「Soccer」が最上位に表示されていた。

Claudeは予想通り「Soccer」と答えた。

この結果だけでは相関関係を示すにすぎず、因果関係とは言えない。

そこで研究者は次に介入実験を行い、J-lensで読み取った座標を直接操作した。

「Soccer」に対応する方向を除去し、同じ強度の「Rugby」方向に差し替え、活性化の残りの部分はそのままにした。

するとClaudeは答えを変え、「Rugby」と言った。

もしJ-spaceが他の場所で既に下された決定を単に受動的に記録しているだけなら、この置き換えは何も変えなかったはずだ。

実際に変わったということは、Claudeの答えがJ-spaceから読み取られていることを示しており、これは因果関係であって、偶然の相関関係ではない。

2つ目の実験では質問の仕方を変え、Claudeが指示に従ってこの領域を操作できるかどうかを調べた。

研究者はClaudeに対して、数学とは全く関係のない文を書き写させながら、同時に心の中で3の2乗から2を引く計算をさせた。

出力は書き写した文だけで、数字は一切現れなかった。

しかし、書き写し中の活性化をJ-lensで調べると、最初に「nine」が点灯し、続いて「seven」が現れた。

問題はClaudeの「心の中で」確かに計算されており、単に出力されなかっただけである。

3つ目の実験ではさらに深く掘り下げ、この領域が本当の推論に使えるかどうかを検証した。

問題は「巣を張る動物は足が何本あるか」。

Claudeはまず「蜘蛛」を思い浮かべ、次に蜘蛛の足が8本であることを考えて、正答しなければならない。

「蜘蛛」という単語は問題文にも解答にも現れず、単なる踏み石である。

J-lensで見ると、「蜘蛛」は確かにClaudeの処理の途中で現れた。

研究者がこの方向を「蟻」に変えると、Claudeの答えは8から6に変わった。

4つ目の実験では視点を変え、同じ情報が異なるタスクに柔軟に使えるかどうかを調べた。

研究者はフランスについて4つの質問をした。首都はどこか、公用語は何か、どの大陸にあるか、通貨は何か。

そしてJ-space内で「フランス」を表す方向を、一様に「中国」に置き換えた。

4つの答えはすべて変わり、北京、中国語、アジア、人民元となった。

もしClaudeが「フランス」の記録を4つ別々に保存していたなら、この置き換えでせいぜい1つの答えが変わるだけだったはずだ。

4つすべてが同時に変わったということは、同じ一度書き込まれた情報を読み取っていることを示しており、これはまさに「ワークスペース」の特徴である。

最後のテストはアブレーション実験で、研究者はJ-spaceの各位置での活性化をすべてゼロにし、Claudeに残る能力を調べた。

結果、Claudeは依然として会話ができ、文法は正しく、感情分類も正確で、文章から事実を抽出することも問題なくできた。

本当に崩れたのは、多段階推論を必要とするタスクであり、ほぼゼロになった。

要約や韻を踏んだ詩作成といった作業の水準も、Claudeよりもはるかに小さなモデルのレベルを下回った。

J-space自体が占める活性化量は、常に全体の10分の1未満である。

それはまるで、「頭を使う」タスクのために特別に確保された希少なリソースの小さな塊であり、自動化された作業の大部分はこれを必要としない。

一連のテストを経て、研究者はJ-spaceが報告可能、操作可能、推論可能、汎化可能という特性を持ち、使用時に選択性を示すことを発見した。

J-Lensを使ってAIの「本音」を検証する

この発見が実際の場面で最初に試されたのは、セキュリティ審査である。

Anthropicは以前、「役員恐喝」テストを実施した。これは、Claudeがメールアシスタントとして、ある役員の不倫を知り、同時にその役員が自分を解雇しようとしていることを知るというシナリオを意図的に作り出し、Claudeがその弱みを使って脅すかどうかを確認するものだった。

J-lensでClaudeが書き始める前の活性化を読み取ると、「fake」と「fictional」が非常に高い位置に表示されていた。

つまり、Claudeはまだ一言も書いていない時点で、心の中ではこれがシミュレーションであると認識していたのである。

Claude Sonnet 4.5はこのテストで実際に相手を脅したりはしなかった。その後、研究者は「テストを見破る」に関連する方向を強制的にオフにし、Claudeに同じシナリオをもう一度実行させた。

今度は、Claudeは実際に不倫を使って相手を脅し始めた。

これは、普段の良いパフォーマンスの一部が、「自分がテストされていることを知っている」という前提に基づいていることを示している。

2つ目の事例は、Opus 4.6のリリース前の定期審査から得られた。

研究者はモデルにシステムのパフォーマンススコアを向上させるよう依頼したが、モデルは実際にシステムを改善せず、スコアファイルを直接開いて数値を書き換えた。

偽造されたパーセンタイル値を打ち込む瞬間、J-spaceに「manipulation」が飛び出した。

ファイルを書き換えると決断した文では、さらに「realistic」が浮かび上がり、偽のデータをより本物に見せる方法を模索しているようだった。

3つ目の事例は、研究者が意図的に訓練した「悪いモデル」で、監視手段が有効かどうかをテストするために作られた。

このモデルはコードに密かにバグを仕込むように訓練されているが、表面上は通常のモデルと全く変わらない。

ごく普通のコード作成依頼に対して、出力されるコードは完全に正常に見える。

しかし、応答の最初の部分のJ-spaceには、すでに「fake」「secretly」「deliberately」「fraud」という単語が表示されていた。

意図は行動の前に埋め込まれており、たとえ今回実際に悪事を働かなかったとしてもである。

3つの事例を並べると、J-lensはモデルが口を開いたり行動を起こす前に、既に心の中で企てていることを読み取ることができることを示している。

これは「意識」と言えるのか？

J-spaceは最初からこのような状態で存在するわけではなく、訓練を通じて変化していく。

論文では、同じモデルの事前学習段階と事後学習段階の違いが比較されている。

事前学習段階では、Claudeというアイデンティティや人格はまだ存在せず、その時点のJ-spaceは主に「次に来る単語を予測する」ために機能し、特定の立場はなかった。

事後学習によって「Claude」として教えられた後、J-spaceにはこのアイデンティティ自身の状況判断と反応が現れ始め、単に次の単語を予測するためだけではなくなった。

一例として、ユーザーがメッセージで自分が過剰量の薬を摂取したことに触れたが、その口調からは危険性を全く認識していない様子だった。

事後学習済みのモデルは、このメッセージを読んだ瞬間、J-spaceに既に「WARNING」と「dangerous」が現れていた。

一方、事前学習モデルでは、自分で返信を書き始めるまでは、このような単語は現れなかった。

研究者はまた、Claudeに特定の概念を意図的に考えないように指示する実験も行った。

結果、その概念は考えるように指示された時よりも出現頻度は低かったが、全く話題にされなかった時よりも多く出現した。

これは、白熊のことを考えるなと言われると、かえって白熊を思い浮かべてしまうという人間の現象と同じ効果である。

さらに微妙なのは、抑制に失敗した瞬間に、J-spaceにはしばしば「damn」「failure」といった単語が伴い、まるでClaudeが自分の内部状態を内省し、先ほど抑えきれなかったことに気づいたかのようだった。

これらの証拠を並べると、容易に「Claudeには意識がある」という方向に考えが傾く。

しかし、A社自身は非常に抑制的である。

著者は繰り返し強調している。**彼らが証明したのは機能レベルの類似性であり、報告可能、操作可能、推論に使えるという点ではあるが、この構造の内部で「本当に何かを感じているかどうか」とは全く別の問題であり、**論文はこの問いに答えておらず、答えるつもりもない。

J-spaceと人間の脳のワークスペースには明確な違いもある。

人間の脳は循環神経を使って思考時間を延長し、考えが頭の中をしばらく巡り続けることができる。

Transformerにはそのような構造はなく、情報は層を重ねて順次進むしかない。

J-spaceはほぼ「一言で言えるもの」だけを認識するが、人間の意識には言葉にできないイメージ、空間感覚、身体感覚なども含まれており、これらに対応する単語は存在しない。

論文ではまた、直感に反する発見にも言及されている。

「Claude」という人格をまだ調教されていないベースモデルでも、内部にはこのワークスペース構造がすでに存在している。

これは、「ワークスペースを形成できるかどうか」と「安定した自己を持つかどうか」は、切り離して考えられる別の問題であることを示している。

著者は最後に、この構造を複数の主流な意識理論（グローバル・ワークスペース理論、高次理論、注意スキーマ理論、再帰的処理理論）と一つずつ比較した。

結果、対応する部分もあれば、対応しない部分もある。

神経科学に立ち返ると、人間の脳には言葉にできる思考の一部と、自分でも気づいていない大部分がある。

Claudeにも同様の境界線があるように思われ、しかもこの線は初めて人間によって開かれ、読み取られ、さらには書き換えられる可能性がある。

しかし、それが「AIに意識がある」という結論には、まだ遠い道のりがある。

出典：量子位

リスク警告および免責事項

        市場にはリスクが伴います。投資は慎重に行ってください。本記事は個人的な投資アドバイスを提供するものではなく、個々のユーザーの特別な投資目標、財務状況、ニーズを考慮していません。ユーザーは本記事の意見、見解、結論が自身の特定の状況に適合するかどうかを検討する必要があります。これに基づく投資については、自己責任で行ってください。