微软研究員利用《世紀帝国2》的山羊觸发机制建構出神经網路，藉此证明 ChatGPT 等模型並无意识，其擬人化特质僅是文字介面与商业行销帶来的认知幻覺。
如果你认为现在的 ChatGPT、Claude 有意识，那麼《世紀帝国 2》的山羊也有。
随著大型语言模型（LLM）的普及，你会常常看到宣稱 AI 自我意识的論点，这也引发科幻作家与第一線科研人員的深思。
科幻作家 Ted Chiang 曾撰文指出，盲目相信语言模型具備意识，就如同相信每次打开微软 Word 檔案时，都喚醒了多个潛藏在对話紀錄中的个體一樣。
为了戳破这種认知泡沫，一位微软 AI 科学家決定採取行动，直接在经典即时策略遊戲《世紀帝国 2》中建構出底層逻辑相同的运算網路，用最荒謬的方式帶来思想衝擊。
圖源：加密城市編辑遊戲截圖《世紀帝国 2》的山羊
據《404 Media》报導，微软首席科学家溫特（Adrian de Wynter）利用《世紀帝国 2》自訂地圖編辑器，成功在遊戲內建造出一个基本的神经網路，这項研究发表於題为《若大型语言模型具備人類特质，那世紀帝国 2 也有》的学術論文中。
他利用遊戲中的自訂情境觸发功能，以木牆、草地、橋樑等元素，加上遊戲中的山羊作为訊號傳递媒介，構建出运算逻辑中的反及閘（NAND gate）。
圖源：研究論文微软科学家用世紀帝国2的山羊搭建神经網路
在遊戲运作时，草地代表數字 0，橋樑代表數字 1，山羊則扮演位元（bit）。当逻辑閘觸发时，作为输入訊號的山羊会被移除，並在输出軌道上产生新的山羊。
透过这種方式，他在遊戲中实现了 1 位元的感知器（perceptron），这是现代神经網路最基礎的構建基塊，证明了該遊戲具備執行任何理論运算的潛力。
溫特接受採訪时表示，这項实验的目的是要正式展示人類过於轻易將事物擬人化，且有时对大型语言模型能力的宣稱过於誇大。
他指出，这个由山羊驅动的網路，本质上与驅动 ChatGPT、Claude 或 Copilot 等聊天机器人的底層技術完全相同，两者僅在於複雜度与規模的差異。
溫特的实验，凸顯了运算基质与人類认知之间的矛盾关係。同樣的运算逻辑，在網頁瀏覽器或语音对話中呈现时，如 Anthropic 会宣稱模型「擁有憲法」並会感受到焦慮。
然而，当相同的运算过程被搬到遊戲的虛擬草地上，由山羊在圍欄中跑动来呈现結果时，觀察者对人類特质的感知就会完全消失。这证明了人們感受到的 AI 擬人特质，很大程度取決於文字对話介面和觀察者的心理预期，底層技術本身並无神祕之處。
其实，將科技擬人化的傾向，在学術界也根深蒂固，並在研究开始前就造成了影響。
溫特在檢視最近两年间发表的 300 多篇电腦科学論文，发现其中有 57% 的論文在实验设计之初，就直接假设大型语言模型具備焦慮或道德等人類特质，並將其視为实验的核心主體。
在这些预先设定模型具備人類特质的研究中，高达 77% 的論文最終得出了特质確实存在的結論。这反映出嚴重的確认偏誤，研究人員在規劃实验、设计測試集以及解读自然语言输出时，都受到了初始擬人化假设的干擾，直接左右了最終的科学結論。
他呼籲科学界应改用不预设人類特质的虛无假设来进行实验，才能看清 AI 的真实面貌。
我們常常说 AI 会有幻覺，而人類对 AI 同樣擁有过度投射的幻覺，这与消费心理以及 AI 巨头的商业策略密不可分。
溫特提到，研究表明当消费者能与产品产生共鳴或同理心时，会更傾向花钱購买該項商品，这項法則體现在烤麵包机、智慧型手机，以及大型语言模型的付费訂阅服務上。
开发这些模型的 AI 巨头們並未阻止这種擬人化趨勢，甚至有意无意地加以引導。
例如 OpenAI 執行长奧特曼（Sam Altman）就曾多次暗示，打造大型语言模型是創造神級 AI 的途徑；前 OpenAI 董事兼科学家 Ilya Sutskever 也曾与員工談論將公司的模型視为神一般的意识；Anthropic 執行长 Dario Amodei 則向媒體表示，无法確定 AI 是否有意识。
这些商业論述与行销手段，在政策制定、产品宣傳和使用者认知的循環中，共同維持了 AI 具備意识的幻覺。
延伸阅读： 宇多田光、哈拉瑞对談：当AI複製藝術、愛与意识，人類靈感还有价值嗎
AI傷害超过400件！BBC追蹤过度相信AI，产生被害妄想症的人
166.19万 热度
35.69万 热度
12.94万 热度
60.52万 热度
100.72万 热度
如果ChatGPT有意识，那《帝国时代2》的山羊也有！微软科学家还做出了GoatGPT。
微软研究員利用《世紀帝国2》的山羊觸发机制建構出神经網路，藉此证明 ChatGPT 等模型並无意识，其擬人化特质僅是文字介面与商业行销帶来的认知幻覺。
AI真的有意识嗎？
如果你认为现在的 ChatGPT、Claude 有意识，那麼《世紀帝国 2》的山羊也有。
随著大型语言模型（LLM）的普及，你会常常看到宣稱 AI 自我意识的論点，这也引发科幻作家与第一線科研人員的深思。
科幻作家 Ted Chiang 曾撰文指出，盲目相信语言模型具備意识，就如同相信每次打开微软 Word 檔案时，都喚醒了多个潛藏在对話紀錄中的个體一樣。
为了戳破这種认知泡沫，一位微软 AI 科学家決定採取行动，直接在经典即时策略遊戲《世紀帝国 2》中建構出底層逻辑相同的运算網路，用最荒謬的方式帶来思想衝擊。
圖源：加密城市編辑遊戲截圖《世紀帝国 2》的山羊
用世紀帝国2的山羊搭建神经網路
據《404 Media》报導，微软首席科学家溫特（Adrian de Wynter）利用《世紀帝国 2》自訂地圖編辑器，成功在遊戲內建造出一个基本的神经網路，这項研究发表於題为《若大型语言模型具備人類特质，那世紀帝国 2 也有》的学術論文中。
他利用遊戲中的自訂情境觸发功能，以木牆、草地、橋樑等元素，加上遊戲中的山羊作为訊號傳递媒介，構建出运算逻辑中的反及閘（NAND gate）。
圖源：研究論文微软科学家用世紀帝国2的山羊搭建神经網路
在遊戲运作时，草地代表數字 0，橋樑代表數字 1，山羊則扮演位元（bit）。当逻辑閘觸发时，作为输入訊號的山羊会被移除，並在输出軌道上产生新的山羊。
透过这種方式，他在遊戲中实现了 1 位元的感知器（perceptron），这是现代神经網路最基礎的構建基塊，证明了該遊戲具備執行任何理論运算的潛力。
山羊在跑动，但人類特质的感知消失
溫特接受採訪时表示，这項实验的目的是要正式展示人類过於轻易將事物擬人化，且有时对大型语言模型能力的宣稱过於誇大。
他指出，这个由山羊驅动的網路，本质上与驅动 ChatGPT、Claude 或 Copilot 等聊天机器人的底層技術完全相同，两者僅在於複雜度与規模的差異。
圖源：研究論文微软科学家用世紀帝国2的山羊搭建神经網路
溫特的实验，凸顯了运算基质与人類认知之间的矛盾关係。同樣的运算逻辑，在網頁瀏覽器或语音对話中呈现时，如 Anthropic 会宣稱模型「擁有憲法」並会感受到焦慮。
然而，当相同的运算过程被搬到遊戲的虛擬草地上，由山羊在圍欄中跑动来呈现結果时，觀察者对人類特质的感知就会完全消失。这证明了人們感受到的 AI 擬人特质，很大程度取決於文字对話介面和觀察者的心理预期，底層技術本身並无神祕之處。
科学研究中普遍存在擬人化偏誤
其实，將科技擬人化的傾向，在学術界也根深蒂固，並在研究开始前就造成了影響。
溫特在檢視最近两年间发表的 300 多篇电腦科学論文，发现其中有 57% 的論文在实验设计之初，就直接假设大型语言模型具備焦慮或道德等人類特质，並將其視为实验的核心主體。
在这些预先设定模型具備人類特质的研究中，高达 77% 的論文最終得出了特质確实存在的結論。这反映出嚴重的確认偏誤，研究人員在規劃实验、设计測試集以及解读自然语言输出时，都受到了初始擬人化假设的干擾，直接左右了最終的科学結論。
他呼籲科学界应改用不预设人類特质的虛无假设来进行实验，才能看清 AI 的真实面貌。
你认为AI像人，其实是被洗腦？
我們常常说 AI 会有幻覺，而人類对 AI 同樣擁有过度投射的幻覺，这与消费心理以及 AI 巨头的商业策略密不可分。
溫特提到，研究表明当消费者能与产品产生共鳴或同理心时，会更傾向花钱購买該項商品，这項法則體现在烤麵包机、智慧型手机，以及大型语言模型的付费訂阅服務上。
开发这些模型的 AI 巨头們並未阻止这種擬人化趨勢，甚至有意无意地加以引導。
例如 OpenAI 執行长奧特曼（Sam Altman）就曾多次暗示，打造大型语言模型是創造神級 AI 的途徑；前 OpenAI 董事兼科学家 Ilya Sutskever 也曾与員工談論將公司的模型視为神一般的意识；Anthropic 執行长 Dario Amodei 則向媒體表示，无法確定 AI 是否有意识。
这些商业論述与行销手段，在政策制定、产品宣傳和使用者认知的循環中，共同維持了 AI 具備意识的幻覺。
延伸阅读：
宇多田光、哈拉瑞对談：当AI複製藝術、愛与意识，人類靈感还有价值嗎
AI傷害超过400件！BBC追蹤过度相信AI，产生被害妄想症的人