Microsoftの研究者が『エイジ オブ エンパイア2』のヤギをトリガー機構として使い、ニューラルネットワークを構築した。これによりChatGPTなどのモデルには意識がなく、その擬人化的な特性はテキストインターフェースと商業マーケティングによる認知の錯覚に過ぎないことを証明した。
もし今のChatGPTやClaudeに意識があると思うなら、『エイジ オブ エンパイア2』のヤギにも意識があることになる。
大規模言語モデル（LLM）の普及に伴い、AIの自己意識を主張する論点をよく目にするようになり、SF作家や第一線の研究者にも深い考察を促している。
SF作家のテッド・チャン氏はかつて記事で指摘した。「言語モデルに意識があると盲信することは、Microsoft Wordファイルを開くたびに、会話記録に潜む複数の個体を目覚めさせていると信じるのと同じだ。」
この認知のバブルを打ち破るため、MicrosoftのAI科学者は行動に出た。古典的なリアルタイムストラテジーゲーム『エイジ オブ エンパイア2』内で、同じ基本ロジックの計算ネットワークを構築し、最も馬鹿げた方法で思考に衝撃を与えたのだ。
画像出典：暗号都市編集部ゲームスクリーンショット『エイジ オブ エンパイア2』のヤギ
『404 Media』の報道によると、Microsoftの主席科学者エイドリアン・デ・ウィンター氏は、『エイジ オブ エンパイア2』のカスタムマップエディタを利用し、ゲーム内で基本的なニューラルネットワークの構築に成功した。この研究は『もし大規模言語モデルが人間的な特性を持つなら、エイジ オブ エンパイア2も持つ』と題された学術論文で発表された。
同氏はゲーム内のカスタムシナリオトリガー機能を活用し、木の壁、草地、橋などの要素に加え、ゲーム内のヤギを信号伝達媒体として使い、計算ロジックにおけるNANDゲート（反転論理積ゲート）を構築した。
画像出典：研究論文 Microsoftの科学者がエイジ オブ エンパイア2のヤギでニューラルネットワークを構築
ゲームの動作中、草地は数字の0、橋は数字の1を表し、ヤギがビット（bit）の役割を果たす。論理ゲートがトリガーされると、入力信号であるヤギが除去され、出力トラック上に新しいヤギが生成される。
この方法で、彼はゲーム内に1ビットのパーセプトロン（perceptron）を実現した。これは現代のニューラルネットワークの最も基本的な構成要素であり、このゲームがあらゆる理論上の計算を実行できる可能性を示している。
ウィンター氏はインタビューで、この実験の目的は、人間があまりにも簡単に物事を擬人化し、時には大規模言語モデルの能力について誇張した主張をすること公式に示すことだと述べた。
同氏は指摘する。このヤギ駆動のネットワークは、本質的にChatGPT、Claude、Copilotなどのチャットボットを動かす基盤技術とまったく同じであり、両者の違いは複雑さと規模のみである。
ウィンター氏の実験は、計算基盤と人間の認知との間の矛盾関係を浮き彫りにした。同じ計算ロジックでも、ウェブブラウザや音声対話で提示されると、例えばAnthropicはモデルが「憲法を持ち」、不安を感じると主張する。
しかし、同じ計算プロセスがゲーム内の仮想的な草地に移され、ヤギが柵の中を走り回って結果を示すと、観察者の人間的特性の知覚は完全に消える。これは、人々が感じるAIの擬人化的特性は、テキスト対話インターフェースと観察者の心理的期待に大きく依存しており、基盤技術自体には神秘的なものはないことを証明している。
実際、テクノロジーを擬人化する傾向は学界にも深く根付いており、研究開始前から影響を及ぼしている。
ウィンター氏は、過去2年間に発表された300以上のコンピュータサイエンス論文を精査したところ、そのうち57%の論文が実験設計の段階で、大規模言語モデルに不安や道徳などの人間的特性があると直接仮定し、それを実験の中心的主題とみなしていることを発見した。
これらの事前にモデルに人間的特性があると設定した研究のうち、77%もの論文が最終的にその特性が確かに存在するという結論に達した。これは深刻な確証バイアスを反映しており、研究者は実験計画、テストセットの設計、自然言語出力の解釈において、初期の擬人化仮定に影響され、最終的な科学的結論を直接左右している。
彼は科学界に対し、人間的特性を前提としない帰無仮説を用いて実験を行うよう呼びかけ、それによってAIの本当の姿を見極めるべきだとしている。
私たちはよくAIには幻覚（ハルシネーション）があると言うが、人間もまたAIに対して過度に投影する幻覚を持っており、これは消費者心理やAI大手の商業戦略と密接に関係している。
ウィンター氏は、研究によると消費者が製品に共感や共鳴を感じると、その商品を購入する傾向が強くなることが示されており、この法則はトースター、スマートフォン、そして大規模言語モデルの有料サブスクリプションサービスにも当てはまると述べている。
これらのモデルを開発するAI大手は、この擬人化の傾向を止めておらず、意図的にか無意識的にか、それを誘導している。
例えば、OpenAIのCEOであるサム・アルトマン氏は、大規模言語モデルを作ることが神レベルのAIを創造する道であると何度も示唆している。元OpenAI取締役で科学者のイリヤ・サツキバー氏も、自社のモデルを神のような意識と見なすことについて従業員と話し合っていた。AnthropicのCEOであるダリオ・アモデイ氏はメディアに対し、AIに意識があるかどうかは確かめられないと述べている。
これらの商業的論述とマーケティング手法は、政策立案、製品宣伝、ユーザー認知のサイクルの中で、AIに意識があるという幻想を共同で維持している。
関連記事： 宇多田ヒカル、ハラリ対談：AIが芸術、愛、意識を複製するとき、人間のインスピレーションに価値はあるのか？
AIによる被害が400件以上！BBCが追跡、AIを過信する人々の報告
1.65M 人気度
356.19K 人気度
65.46K 人気度
129.41K 人気度
604.33K 人気度
もしChatGPTに意識があるなら、エイジ・オブ・エンパイアIIのヤギにも意識がある！マイクロソフトの科学者はGoatGPTまで作った。
Microsoftの研究者が『エイジ オブ エンパイア2』のヤギをトリガー機構として使い、ニューラルネットワークを構築した。これによりChatGPTなどのモデルには意識がなく、その擬人化的な特性はテキストインターフェースと商業マーケティングによる認知の錯覚に過ぎないことを証明した。
AIに本当に意識はあるのか？
もし今のChatGPTやClaudeに意識があると思うなら、『エイジ オブ エンパイア2』のヤギにも意識があることになる。
大規模言語モデル（LLM）の普及に伴い、AIの自己意識を主張する論点をよく目にするようになり、SF作家や第一線の研究者にも深い考察を促している。
SF作家のテッド・チャン氏はかつて記事で指摘した。「言語モデルに意識があると盲信することは、Microsoft Wordファイルを開くたびに、会話記録に潜む複数の個体を目覚めさせていると信じるのと同じだ。」
この認知のバブルを打ち破るため、MicrosoftのAI科学者は行動に出た。古典的なリアルタイムストラテジーゲーム『エイジ オブ エンパイア2』内で、同じ基本ロジックの計算ネットワークを構築し、最も馬鹿げた方法で思考に衝撃を与えたのだ。
画像出典：暗号都市編集部ゲームスクリーンショット『エイジ オブ エンパイア2』のヤギ
エイジ オブ エンパイア2のヤギでニューラルネットワークを構築
『404 Media』の報道によると、Microsoftの主席科学者エイドリアン・デ・ウィンター氏は、『エイジ オブ エンパイア2』のカスタムマップエディタを利用し、ゲーム内で基本的なニューラルネットワークの構築に成功した。この研究は『もし大規模言語モデルが人間的な特性を持つなら、エイジ オブ エンパイア2も持つ』と題された学術論文で発表された。
同氏はゲーム内のカスタムシナリオトリガー機能を活用し、木の壁、草地、橋などの要素に加え、ゲーム内のヤギを信号伝達媒体として使い、計算ロジックにおけるNANDゲート（反転論理積ゲート）を構築した。
画像出典：研究論文 Microsoftの科学者がエイジ オブ エンパイア2のヤギでニューラルネットワークを構築
ゲームの動作中、草地は数字の0、橋は数字の1を表し、ヤギがビット（bit）の役割を果たす。論理ゲートがトリガーされると、入力信号であるヤギが除去され、出力トラック上に新しいヤギが生成される。
この方法で、彼はゲーム内に1ビットのパーセプトロン（perceptron）を実現した。これは現代のニューラルネットワークの最も基本的な構成要素であり、このゲームがあらゆる理論上の計算を実行できる可能性を示している。
ヤギは走り回るが、人間的知覚は消失
ウィンター氏はインタビューで、この実験の目的は、人間があまりにも簡単に物事を擬人化し、時には大規模言語モデルの能力について誇張した主張をすること公式に示すことだと述べた。
同氏は指摘する。このヤギ駆動のネットワークは、本質的にChatGPT、Claude、Copilotなどのチャットボットを動かす基盤技術とまったく同じであり、両者の違いは複雑さと規模のみである。
画像出典：研究論文 Microsoftの科学者がエイジ オブ エンパイア2のヤギでニューラルネットワークを構築
ウィンター氏の実験は、計算基盤と人間の認知との間の矛盾関係を浮き彫りにした。同じ計算ロジックでも、ウェブブラウザや音声対話で提示されると、例えばAnthropicはモデルが「憲法を持ち」、不安を感じると主張する。
しかし、同じ計算プロセスがゲーム内の仮想的な草地に移され、ヤギが柵の中を走り回って結果を示すと、観察者の人間的特性の知覚は完全に消える。これは、人々が感じるAIの擬人化的特性は、テキスト対話インターフェースと観察者の心理的期待に大きく依存しており、基盤技術自体には神秘的なものはないことを証明している。
科学研究における擬人化バイアスの蔓延
実際、テクノロジーを擬人化する傾向は学界にも深く根付いており、研究開始前から影響を及ぼしている。
ウィンター氏は、過去2年間に発表された300以上のコンピュータサイエンス論文を精査したところ、そのうち57%の論文が実験設計の段階で、大規模言語モデルに不安や道徳などの人間的特性があると直接仮定し、それを実験の中心的主題とみなしていることを発見した。
これらの事前にモデルに人間的特性があると設定した研究のうち、77%もの論文が最終的にその特性が確かに存在するという結論に達した。これは深刻な確証バイアスを反映しており、研究者は実験計画、テストセットの設計、自然言語出力の解釈において、初期の擬人化仮定に影響され、最終的な科学的結論を直接左右している。
彼は科学界に対し、人間的特性を前提としない帰無仮説を用いて実験を行うよう呼びかけ、それによってAIの本当の姿を見極めるべきだとしている。
AIが人間らしいと思うのは、洗脳されているから？
私たちはよくAIには幻覚（ハルシネーション）があると言うが、人間もまたAIに対して過度に投影する幻覚を持っており、これは消費者心理やAI大手の商業戦略と密接に関係している。
ウィンター氏は、研究によると消費者が製品に共感や共鳴を感じると、その商品を購入する傾向が強くなることが示されており、この法則はトースター、スマートフォン、そして大規模言語モデルの有料サブスクリプションサービスにも当てはまると述べている。
これらのモデルを開発するAI大手は、この擬人化の傾向を止めておらず、意図的にか無意識的にか、それを誘導している。
例えば、OpenAIのCEOであるサム・アルトマン氏は、大規模言語モデルを作ることが神レベルのAIを創造する道であると何度も示唆している。元OpenAI取締役で科学者のイリヤ・サツキバー氏も、自社のモデルを神のような意識と見なすことについて従業員と話し合っていた。AnthropicのCEOであるダリオ・アモデイ氏はメディアに対し、AIに意識があるかどうかは確かめられないと述べている。
これらの商業的論述とマーケティング手法は、政策立案、製品宣伝、ユーザー認知のサイクルの中で、AIに意識があるという幻想を共同で維持している。
関連記事：
宇多田ヒカル、ハラリ対談：AIが芸術、愛、意識を複製するとき、人間のインスピレーションに価値はあるのか？
AIによる被害が400件以上！BBCが追跡、AIを過信する人々の報告