每个人工智能乌托邦都始于移除那个不符合模型的变量。人类。
我一直在重读哈耶克的《致命的自负》。
这本书很短,只有一个论点,现在它读起来像是对我看到的半数人工智能推介的直接回应。
诱惑总是在那里:像机械一样设计社会。用方程描述世界。消除非理性。建立完美的系统。
如果你来自物理学或工程学,这很有道理。如果你能分裂原子并用数学描述它,逻辑就会跟随:为什么不社会呢?宇宙有规律。人们肯定也有。
这就是计划经济背后的逻辑。相同的推介,不同的品牌,背后是由人工智能治理的城市。
哈耶克对这个的担忧不是数学问题。是对人类模型的担忧。人们依赖传统、地方背景、非正式规则、永远无法完全解决的矛盾。这不是缺陷。只是人本身的样子。
任何社会中的知识都是分散的。它存在于价格中、在地方决策中、在中央规划者无法完全收集的信号中。市场在哈耶克的框架中不是一种意识形态——它们是唯一能让这些知识流动的机制。集中化,你就会破坏你试图优化的正是这个。
每当有人提出由人工智能管理的货币政策,或将人类作为输入变量的金融系统时,我总会想到这一点。
技术不是问题。首先被抛弃的,是那些不符合模型的人。这就是信息所在的地方。
查看原文