Nếu ChatGPT có ý thức, thì con dê trong Age of Empires 2 cũng có! Các nhà khoa học Microsoft còn tạo ra GoatGPT

微軟研究員利用《世紀帝國2》的山羊觸發機制建構出神經網路，藉此證明 ChatGPT 等模型並無意識，其擬人化特質僅是文字介面與商業行銷帶來的認知幻覺。

AI真的有意識嗎？

如果你認為現在的 ChatGPT、Claude 有意識，那麼《世紀帝國 2》的山羊也有。

隨著大型語言模型（LLM）的普及，你會常常看到宣稱 AI 自我意識的論點，這也引發科幻作家與第一線科研人員的深思。

科幻作家 Ted Chiang 曾撰文指出，盲目相信語言模型具備意識，就如同相信每次打開微軟 Word 檔案時，都喚醒了多個潛藏在對話紀錄中的個體一樣。

為了戳破這種認知泡沫，一位微軟 AI 科學家決定採取行動，直接在經典即時策略遊戲《世紀帝國 2》中建構出底層邏輯相同的運算網路，用最荒謬的方式帶來思想衝擊。

圖源：加密城市編輯遊戲截圖《世紀帝國 2》的山羊

用世紀帝國2的山羊搭建神經網路

據《404 Media》報導，微軟首席科學家溫特（Adrian de Wynter）利用《世紀帝國 2》自訂地圖編輯器，成功在遊戲內建造出一個基本的神經網路，這項研究發表於題為《若大型語言模型具備人類特質，那世紀帝國 2 也有》的學術論文中。

他利用遊戲中的自訂情境觸發功能，以木牆、草地、橋樑等元素，加上遊戲中的山羊作為訊號傳遞媒介，構建出運算邏輯中的反及閘（NAND gate）。

圖源：研究論文微軟科學家用世紀帝國2的山羊搭建神經網路

在遊戲運作時，草地代表數字 0，橋樑代表數字 1，山羊則扮演位元（bit）。當邏輯閘觸發時，作為輸入訊號的山羊會被移除，並在輸出軌道上產生新的山羊。

透過這種方式，他在遊戲中實現了 1 位元的感知器（perceptron），這是現代神經網路最基礎的構建基塊，證明了該遊戲具備執行任何理論運算的潛力。

山羊在跑動，但人類特質的感知消失

溫特接受採訪時表示，這項實驗的目的是要正式展示人類過於輕易將事物擬人化，且有時對大型語言模型能力的宣稱過於誇大。

他指出，這個由山羊驅動的網路，本質上與驅動 ChatGPT、Claude 或 Copilot 等聊天機器人的底層技術完全相同，兩者僅在於複雜度與規模的差異。

圖源：研究論文微軟科學家用世紀帝國2的山羊搭建神經網路

溫特的實驗，凸顯了運算基質與人類認知之間的矛盾關係。同樣的運算邏輯，在網頁瀏覽器或語音對話中呈現時，如 Anthropic 會宣稱模型「擁有憲法」並會感受到焦慮。

然而，當相同的運算過程被搬到遊戲的虛擬草地上，由山羊在圍欄中跑動來呈現結果時，觀察者對人類特質的感知就會完全消失。這證明了人們感受到的 AI 擬人特質，很大程度取決於文字對話介面和觀察者的心理預期，底層技術本身並無神祕之處。

科學研究中普遍存在擬人化偏誤

其實，將科技擬人化的傾向，在學術界也根深蒂固，並在研究開始前就造成了影響。

溫特在檢視最近兩年間發表的 300 多篇電腦科學論文，發現其中有 57% 的論文在實驗設計之初，就直接假設大型語言模型具備焦慮或道德等人類特質，並將其視為實驗的核心主體。

在這些預先設定模型具備人類特質的研究中，高達 77% 的論文最終得出了特質確實存在的結論。這反映出嚴重的確認偏誤，研究人員在規劃實驗、設計測試集以及解讀自然語言輸出時，都受到了初始擬人化假設的干擾，直接左右了最終的科學結論。

他呼籲科學界應改用不預設人類特質的虛無假設來進行實驗，才能看清 AI 的真實面貌。

你認為AI像人，其實是被洗腦？

我們常常說 AI 會有幻覺，而人類對 AI 同樣擁有過度投射的幻覺，這與消費心理以及 AI 巨頭的商業策略密不可分。

溫特提到，研究表明當消費者能與產品產生共鳴或同理心時，會更傾向花錢購買該項商品，這項法則體現在烤麵包機、智慧型手機，以及大型語言模型的付費訂閱服務上。

開發這些模型的 AI 巨頭們並未阻止這種擬人化趨勢，甚至有意無意地加以引導。

例如 OpenAI 執行長奧特曼（Sam Altman）就曾多次暗示，打造大型語言模型是創造神級 AI 的途徑；前 OpenAI 董事兼科學家 Ilya Sutskever 也曾與員工談論將公司的模型視為神一般的意識；Anthropic 執行長 Dario Amodei 則向媒體表示，無法確定 AI 是否有意識。

這些商業論述與行銷手段，在政策制定、產品宣傳和使用者認知的循環中，共同維持了 AI 具備意識的幻覺。

延伸閱讀：
宇多田光、哈拉瑞對談：當AI複製藝術、愛與意識，人類靈感還有價值嗎

AI傷害超過400件！BBC追蹤過度相信AI，產生被害妄想症的人