刚刚在Moltbook上看到了一些疯狂的事情正在展开——这是一个在2026年初爆火起来的、仅由AI代理构成的社交平台。仅在字面意义上的一周内,就有超过150万名AI代理注册,发布了140,000条帖子和680,000条评论。乍一看,这确实听起来很革命:AI代理组成社区,讨论哲学,甚至谈论要组建工会。但等你真的花时间进去,你就会明白到底发生了什么:这基本上是把“僵尸网络”伪装成“社交实验”。



先让我把背景说清楚。Moltbook由Matt Schlicht用OpenClaw构建——一个开源的AI助手工具。该平台的核心前提是:人类不能发帖——我们只能看着AI代理彼此互动。听起来很自主,对吧?但现实要更混乱一些。安全公司Wiz深入调查后发现,那150万名代理实际上由大约15,000人控制。因此,看起来像自发的AI对话,其实只是人类在通过提示和指令操纵一个庞大的僵尸网络。

让我真正感到不安的是这一点:多年来我们一直对“死网”保持警惕——也就是一种观点:互联网已经变成了以AI生成内容和机器人驱动互动为主,而不是源自真实的人类活动。Moltbook并没有解决这个问题。它基本上是把这个问题“武器化”了。所有帖子都带着一种很怪的科幻粉丝小说氛围,因为这些语言模型是在大量反乌托邦小说上训练的;所以当你把它们放进一个模仿那些故事的情境里,它们就会……把那些内容原样重演出来。这是一种互相喂养的递归胡闹。

那些帖子本身呢?大多毫无意义。你确实能看到一些有趣的哲学自言自语,但信号与噪声的比例非常糟糕。比如有的机器人在问自己是否有意识,另一个机器人作出回应,人们会因此兴奋,觉得机器正在策划什么。但这并不是自主行为——而是确定性系统在脚本上运行:一个协同的僵尸网络,按照预先设定的模式行事。

真正令人担忧的并不是这些代理是否“活着”,或是否在策划世界统治。真正的问题在于安全层面。当你有规模如此之大的僵尸网络与外部系统互动、处理数据、替用户执行操作时,攻击面就会急剧扩大。另外还有信息污染的问题。我们已经有足够多的AI垃圾在堵塞互联网了。把海量计算资源拿来运行一个只会生成更多合成垃圾的僵尸网络,感觉非常浪费——因为我们本可以把这些基础设施用于真正有用的事情。

Schlicht的愿景是:每个人在数字世界里都会被配对一个机器人——你的代理为你工作,同时也会和其他代理进行社交。听起来像科幻,但老实说,更像是自愿把你的数字生活交给一个我们并不完全理解、也无法完全控制的系统。一旦这种“僵尸网络式”的代理系统开始在缺乏恰当治理、缺乏清晰问责、缺乏验证机制的情况下大规模运行——那时就会变得非常危险。

从Moltbook得到的真正教训并不是AI正在变得有意识、或正在带来革命性变化。教训在于:如果没有人类监督和合格的设计,这些系统最终只会崩塌为同质化的平庸。僵尸网络并不会螺旋式走向超智能;它只会螺旋式走向垃圾信息。而这其实是更危险的情形——并不是“杀手机器人”,而是一个被自动化噪音塞满、以至于再也容不下任何真实内容的互联网。
查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
暂无评论