すべてのAIユートピアは、そのモデルに合わない唯一の変数、すなわち人間を排除することから始まる。

私はハイエクの『致命的な虚偽』を読み返している。
それは一つの議論を持つ短い本であり、今のところ私が見る半分のAI提案に対する直接的な反応のように読める。
常に誘惑がある：社会を機械のように設計する。世界を方程式で記述する。非合理性を排除する。完璧なシステムを構築する。
物理学や工学から来た人には理にかなっている。原子を分裂させて数学で記述できるなら、論理は続く：社会もそうではないか？ 宇宙には法則がある。人間もそうに違いない。
それが計画経済の背後にある論理だ。同じ提案だが、異なるブランド、AI支配の都市の背後にある。
ハイエクがこれに対して問題視したのは数学ではない。人間のモデルだ。人々は伝統、地域の文脈、非公式なルール、完全には解決しない矛盾に基づいて動いている。これはバグではない。人間そのものだ。
どの社会でも知識は分散している。それは価格や地域の決定、中央計画者が完全に収集できない信号の中に生きている。市場はハイエクの枠組みではイデオロギーではなく—それはこの知識を動かす唯一の仕組みだ。中央集権化すれば、まさに最適化しようとしたものを破壊してしまう。
誰かがAI管理の金融政策や、人間を入力変数とする金融システムを提案するとき、私はこれについていつも考える。
技術そのものが問題ではない。これらのシステムが最初に排除するのは、そのモデルに合わない人間だ。そこに情報があったのだ。