每個人工智慧烏托邦都始於移除不符合模型的那個變數。人類。

我一直在重讀哈耶克的《致命的自負》。
這是一本短小的書，只有一個論點，現在讀來就像是對我看到的一半人工智慧推銷的直接回應。
誘惑總是存在：像機器一樣設計社會。用方程式描述世界。消除非理性。建立完美的系統。
如果你來自物理或工程背景，這是有道理的。如果你能分裂原子並用數學描述它，邏輯就會跟著來：為什麼不可以用在社會上？宇宙有規則。人也一定有。
這就是計劃經濟背後的邏輯。相同的推銷，不同的品牌，都是在人工智慧治理的城市背後。
哈耶克對此的問題不在數學，而在於對人的模型。人們依賴傳統、地方背景、非正式規則、永遠無法完全解決的矛盾。這不是錯誤。只是人本身的樣子。
任何社會中的知識都是分散的。它存在於價格、在地方決策、在中央規劃者無法完全收集的信號中。市場在哈耶克的框架中並非意識形態——它們是唯一能讓這些知識流動的機制。集中化，反而會破壞你試圖優化的東西。
每當有人提出由人工智慧管理的貨幣政策，或是將人類作為輸入變數的金融系統時，我都會一直想到這個。
技術不是問題。這些系統首先丟棄的，是那些不符合模型的人。那裡才是真正的資訊所在。