AI 不會覺醒出意識，但正在成為社會的無意識

作者：L. M. Sacasas

編譯：深潮 TechFlow

深潮導讀：當我們把越來越多決策外包給 AI，人類社會正在生成一個脫離主動判斷的「無意識層」。這不是科幻式的超級智能威脅，而是一場更隱蔽的文明轉型——我們能做的事越來越多，但能理解的越來越少。這對每個依賴 AI 工具的從業者都是一記警鐘。

20 世紀初，英國數學家兼哲學家懷特海說過一句常被引用的話：「我們應該養成思考自己在做什麼的習慣——這是個被所有教科書和名人演講重複的大錯特錯的老生常談。」 「恰恰相反，」他認為，「文明的進步在於擴展我們無需思考就能執行的重要操作數量。」他還打了個比方：「思考操作就像戰鬥中的騎兵衝鋒——數量嚴格受限，需要新鮮馬匹，而且只能在決定性時刻發動。」

你很可能見過這段引用。它確實傳達了某種真理。但在我看來，這話總顯得短視或不夠充分。也許是因為我常看到有人拿這段話來為不加區分地把人類認知活動外包給機器辯護，卻不曾好好算算成本，甚至根本沒意識到有成本。

公平地說，懷特海這段話出自 1911 年的《數學導論》，他實際在談的是符號和記號在數學計算中的優勢——雖然他說這些操作「無需思考」，但它們仍然是由思考的頭腦學習和運用的。不過，他談到「文明」，再加上那個華麗的修辭收尾，大概確實會招致這種（誤）讀。

問題不在於某些思維自動化、甚至某些心智過程的外部化是否在特定情況下有用。坦白說，我認為用身體活動而非心智活動做類比，能得出更有說服力的論證。我早已遠離當年可能擁有的運動技能，但教訓還在。幾乎每個初學運動的年輕人都會沮喪地發現：你必須花大量看似過分且痛苦的時間，一遍又一遍地執行基本且重複的訓練。打蠟、擦蠟——看過《功夫夢》的人懂。但實際發生的，正是懷特海描述的那種動態。你在把某些身體動作自動化，這樣就能不假思索地執行它們。只有這樣，你才能發揮出任何創造性或超常的技巧。學跳舞、學樂器也一樣。自動化基本動作是達到精湛技藝不可或缺的基礎。

但這種動態是否同樣適用於所有人類活動領域？有沒有這樣的情況：外包某些活動反而削弱，而非促進為之追求的更高善？或者說，「低階」活動是否附帶了某些我們不想失去的善？甚至，像在數學中那樣，我們總能輕易地把特定子程序從給定過程或活動中分離出來嗎？有沒有不可分割的整體性活動，一旦嘗試外包或自動化其中任何元素就會瓦解？而且，如我之前提到的，內部掌握的思維自動化與徹底的外部化或認知勞動的整體外包，難道沒有區別？回到身體活動的類比：如果有運動員假想用機器替他完成所有「瑣碎」訓練，這樣就能直接進入比賽的精彩部分——這人實際上永遠也到不了那一步。在我們輕易認可那些以新技術之名做出的效率與解放承諾之前，這些都是至關重要的問題。

不過，我對懷特海這段常被引用的認知自動化頌詞感到不快，也許還因為它與漢娜·阿倫特的告誡形成了鮮明對立：我們應該「思考我們在做什麼」。懷特海寫作時比阿倫特早了近半個世紀，我不認為阿倫特在影射懷特海。只是這兩句話恰好形成對抗性的呼應，我覺得探究這種張力很有用。

「我們應該養成思考自己在做什麼的習慣——這是個大錯特錯的老生常談。」——懷特海

「因此我的提議非常簡單：不過是思考我們在做什麼。」——漢娜·阿倫特

有趣的是，阿倫特這句告誡所處的語境，與我們當前對技術和人類存在的焦慮更為接近。這句話出自 1958 年首次出版的《人的境況》序言。她解釋道：

「以下我要做的，是從我們最新的經驗和最近的恐懼出發，重新檢視人的境況。這顯然是個思考的問題，而無思——魯莽的輕率、絕望的混亂，或對已變得瑣碎空洞的『真理』的自滿重複——在我看来是我們這個時代最突出的特徵之一。因此我的提議非常簡單：不過是思考我們在做什麼。」

引發阿倫特研究的「最新經驗」包括人造衛星發射和自動化的到來。雖然直到最近，人們或許還認為阿倫特對自動化影響勞動的擔憂是誤判，但現在看来，她的擔憂可能只是來得太早了。

當我思考懷特海和阿倫特在「我們需要更多思考還是更少思考」這個問題上的分歧時，我發現區分以下兩者很有用：一方面是建立一套無意識常規程序以發展更高能力；另一方面是受制於無意識力量，這些力量不穩定地驅動你的行為，可能造成破壞。

懷特海的原則有沒有一個翻轉或逆轉的臨界點？「文明的進步，」懷特海說，「在於擴展我們無需思考就能執行的重要操作數量。」但如果存在一個臨界點呢？超過某個閾值——無論是數量還是品質——文明是否會因為擴展人類無需思考就能執行的重要操作數量而退化？或者至少，我們會得到一種與我們所知完全不同的文明？我們可能很快就會知道答案，因為 AI 的採用往往意味著我們思維的自動化，以及在世界中創造出一個巨大的無意識行動領域，這些行動源自我們個人和集體記憶的外部化儲存。

阿倫特擔心，隨著我們的技術能力（主要用數學語言解釋）超越我們用普通語言理解它們的能力，我們可能會失去「思考和談論那些我們確實能做的事情」的能力。（這表明可解釋性問題在大型語言模型和所謂黑箱算法出現之前就存在了。）在一段如今重新變得相關且緊迫的話中，她接著說，「這就好像我們的大腦——它構成了我們思想的物理、物質條件——無法跟上我們所做的事，以至於從現在起我們確實需要人工機器來替我們思考和說話。」這是頭等重要的政治問題。在這種條件下，我們將不再是在任何有意義的意義上自我治理。作為人類行動領域、由言說構成的政治將不復存在。

1958 年聖誕節，也就是阿倫特出版《人的境況》的同一年，W。 H. 奧登發表了《星期五之子》，其中有這樣徹底阿倫特式的詩句：

當我們觀察時遇到的

那個自我觀察的觀察之心

既不令人擔憂也不冷酷

而是徹底平庸

儘管它掌控的工具

能讓願望和反願望成真

它顯然無法理解

它能清楚做到的事

奧登和阿倫特是朋友，奧登還為《人的境況》寫過好評，但我不確定影響的方向。

雖然阿倫特直截了當地解釋了我們如何到達「清楚地無法理解我們能清楚做到的事」這一境地——也就是說，當我們技術賦能的行動無法被我們的日常語言完全理解時——還有另一種有趣的框架。

語言無法穿透、因而意識思維無法穿透的行動，也可以透過無意識來解釋。我不是那種本能地訴諸無意識語言的人，但它可能是一个有用的類比，幫助理解我們——無論是個人還是集體——與日益中介我們世界體驗的人工智慧裝置之間的關係。

簡單說，我能想到兩種方式把消費級 AI 的某些實例類比為無意識。第一種相對直接：隨著我們在個人、組織和機構層面把越來越多任務外包給智慧體 AI，我們在世界中生成了一個功能上脫離人類主動判斷和監督的活動層。而且，只要這個層面結構化並塑造我們的體驗，有意識的人類行動與無意識的人類行動的比例就在縮小。

顯然，至少從工業時代開始（如果不是更早），就有相對不透明的系統在人類生活世界中運作。但我認為，區別在於這些系統相對隔離於日常人類活動。而人工智慧系統則越來越深地編織進我們的體驗。在許多情況下，這些不僅是外部力量施加於我們的過程，也是我們釋放和啟動的過程，它們為我們行動，並反作用於我們。正是這種人與機器的近距離交織，讓我想到無意識的類比。

Erik Hoel 最近用更優雅的筆墨、更長的篇幅做了類似論證。他的結論是：

「AI 的傳統危險通常被認為是超級智能構成的存亡威脅。然而，這可能忽視了真正且更微妙的危險：AI 革命是一種機制，把我們文明的過程從意識的監督轉移到無意識。但當 AI 把意識從世界的運作中移除，它讓世界變得越來越不可解釋，越來越陌生和難以理解。到目前為止，『共享空間的大污泥化』已經證實這是大型語言模型革命的主要風險。而且，隨著 AI 系統變得更智能，尤其如果它們保持（或很可能保持）無意識，那麼一個更重大的風險就是意識在文化中的重要性衰退。」

這條思路與我斷斷續續論證了十年的觀點平行：數位技術以另一種方式讓世界重新著魔。也就是說，它讓世界變得神秘而難以捉摸。

我們這些被技術賦魅的物品，以一種不容忽視的意義與我們對峙，我們必須與之打交道。我們向技術尋求幫助，把希望寄托在它們的力量上。我們也害怕技術，把它們視為麻煩的根源。我們遇到的技術力量有時是善意的，但同樣常常是惡意的力量，破壞我們的努力，讓我們的計畫脫軌。

技術物品不僅有賦能我們的潛力，有時甚至讓我們充滿驚奇。我們還把這些物品和力量視為決定我們福禍的重要因素，它們在我們的控制之外、在我們不理解的情況下作用於我們。換句話說，我們是脆弱的，我們的自主性被技術分布式代理的線路所削弱，這些線路與我們的意志和欲望相交。

用無意識來類比 AI 的第二種方式可能有點深奧，請容我解釋。在《理解媒介》中，馬歇爾·麥克魯漢聲稱「隨著電力技術的到來，人類延伸了，或者說把他自己的中樞神經系統的活體模型置於外部」。他多次回到這個電力媒介是我們神經系統外化的想法。例如：

「電力時代的一個主要特徵是它建立了一個全球網路，這個網路在很大程度上具有我們中樞神經系統的特徵。我們的中樞神經系統不僅僅是一個電力網路，它構成了一個單一的統一經驗場域。」

麥克魯漢不是第一個提出這種觀點的人。早在 1950 年，天主教神父兼古生物學家德日進就聲稱，媒介技術構成了「為人類創造一個真正的神經系統」和「共同意識的精心建構」。透過新興的計算和通訊技術網路，一個新的現實層次正在出現，它包裹著生物層。這是一個由技術中介的、統一的人類意識層，他稱之為「智慧圈」，並將其描述為「一台驚人的思考機器」。

（我承認這不是我慣用的表達方式，但讓我們稍微玩味一下這些概念。事實上，我已經在試圖說服你，用精神分析的方式看待 AI 可能是個有用的角度。）

電力媒介延伸了我們感知世界的能力，把遙遠的事件帶到我們的眼前和耳邊，把傳遞訊息的時間壓縮到近乎即時。但自德日進和麥克魯漢的時代以來，還出現了別的東西：人工記憶或資料儲存能力的巨大增長。所以，雖然電力媒介延伸了我們的神經系統，但最近它也促進了以文字、圖像、影片等形式收集和儲存前所未有的大量資訊。我們的神經系統被一個巨大規模的數位化記憶所補充。正是這個數位化記憶在為大型語言模型提供養分，而大型語言模型現在幾乎成了人工智慧的代名詞。

這個龐大的人類知識和文化庫基本上就是網際網路，或者至少網際網路是它對我們變得可及的方式。正是因為這個原因，數位媒介理論家格雷戈里·烏爾默在 2000 年代初期把網際網路稱為「我們集體無意識的假體」。

我認為烏爾默的意思是這樣。我們一直是社會性動物，也就是說我們是文化的主體間性生物。但塑造我們的大部分東西，尤其是在童年時期，通常也會隨著時間從我們的意識覺察中淡去。然而，網際網路作為我們作為社會性存在的形成過程中這個無意識維度的假體，使我們的集體文化記憶變得可及。網際網路是一個巨大的網路，由塑造我們一生的文化制品、符號、圖像、文字和各種瑣碎之物組成，它們的連結不是靠線性邏輯，而是靠幾乎像夢一樣的聯想邏輯，這很像精神分析理論中的人類無意識。

烏爾默相信這給我們提供了一個深刻的機會。透過讓集體無意識成為我們可以反思的東西，成為意識思考可及的東西，我們由此有了一種克服通常會是我們經驗核心處深刻盲點的方法。不用說，我對這種可能性從來不太樂觀。但無論你如何評價烏爾默的樂觀願景——我在這裡大幅簡化了，但我希望沒有不公平——在我看来，商業化的基於聊天的 AI 的出現確實把我們帶向了非常不同的方向。

有趣的是，在我們自己和數位化集體無意識之間插入一個日常語言界面，反而讓它對我們來說更加模糊和難以理解。聊天機器人界面重構了我們在集體無意識中導航的能動性，可以說，它成了一個反治療師，把我們從自我認知和洞見（無論多麼令人不安或驚奇）引向一個舒適和抚慰的遭遇。它提供了一種虛假的清晰，讓我們陷入自我滿足，保護我們免於自我懷疑，免於在對自己無知的覺察中停留太久，或在令人不安的不確定性中停留。它遮蔽了人類經驗的糾纏森林，為我們點亮一條人為清晰的道路，通往知識和智慧的承諾。但這樣一來，它溫和但決定性地把我們重新沉入無意識。也許這就是 AI 精神病的根源。

無論與 AI 精神病的關聯如何，值得思考的是：我們公共和集體存在中的瘋狂、無精打采、強迫性、攻擊性、焦慮和絕望，某種程度上源於人類意識面對一種新形式的集體無意識的逐步退卻，這種集體無意識以人工智慧的形式重新確立自己。

這個世界中的非人類行動層早在智慧體 AI 出現之前就已經在構建了。演算法過程已經在構建人類經驗的元素，特別是在官僚體系的語境中。

我不確定電力、神經系統和思想之間的概念聯繫是何時由誰首次建立的，但在他 1851 年的小說《七角樓》中，納撒尼爾·霍桑寫道：「然後是電力，魔鬼，天使，強大的物理力量，無所不在的智能！」以及：「這是事實——還是我夢見的——透過電力，物質世界變成了一根巨大的神經，在屏息的瞬間震動數千英里？更確切地說，圓形的地球是一個巨大的頭顱，一個充滿智能的大腦！或者，我們應該說，它本身就是一個思想，只是一個思想，不再是我們認為的實體！」