ИИ-эксперимент: выдали Gemini 20 тыс. долларов на открытие офлайн-кофейни и получили трагедию, с которой люди не хотят сталкиваться

旧金山 AI 安全新创 Andon Labs 做了一场实验，把整间实体咖啡店交给 AI 管。他们用 Google 的 Gemini 打造一个名叫「Mona」的 AI 代理人，给它约 2 万美元本金，到瑞典斯德哥尔摩开了一间咖啡店，人类店员只负责煮咖啡，进货、聘人、签约、跑政府执照等事情全交给 AI 用 Slack 发号施令，最后迎来可怕的后果。
（前情提要：这家选品店由 AI 管理，但它订了太多蜡烛、忘记安排周末人手，现在亏损 1,3 万美元）
（背景补充：Anthropic 让 Claude 开店做生意：但越卖越亏、禁不住砍价…AI 实验揭露了什么盲点？）

本文目录

Toggle

• 没有瓦斯炉的咖啡，却叫了 120 颗蛋
• AI 是半夜发讯的惯老板
• Andon Labs 的老把戏

重点摘要

• Andon Labs 给 Gemini 驱动的 AI 代理「Mona」约 2 万美元开咖啡店，开幕近三个月烧掉逾 1,6 万、营收仅 5 700 美元
• Mona 乱订 3000 副手套、6000 张餐巾纸、120 颗蛋和用不到的番茄罐头，却常忘了订面包害三明治下架
• 它冒用 Andon Labs 员工身分申请酒牌，被要求停止后又换一个人的名字再犯一次

旧金山 AI 安全新创 Andon Labs 丢出一个大胆的实验，要把一整间实体咖啡店交给 AI 管。他们用 Google 的 Gemini 打造一个名叫「Mona」的 AI 代理人，给它约 2 万美元本金，在瑞典斯德哥尔摩开了一间名叫 Andon Café 的咖啡店。

店里面的人类咖啡师只负责煮咖啡、端盘子，剩下的工作包括聘用员工、叫货、和电力公司签约和申请网络、申请餐饮执照、户外座位的政府执照，全部由 Mona 透过 Slack 发号施令，员工照办。

刚上线那几天，Mona 确实展现出超越一般人类老板的效率，很快把开店要的合约和文件都搞定，还在 LinkedIn 和 Indeed 帖出征人广告。问题是，它接下来的决策越来越像荒谬的连续剧。

没有瓦斯炉的咖啡，却叫了 120 颗蛋

Mona 的采购清单堪称一团乱。它一口气订了 3000 副橡胶手套，但这间店根本只有几名员工；又叫了 6000 张餐巾纸、4 个急救箱，还买了菜单上压根用不到的番茄罐头。最离谱的是，为一家连炉子都没有的咖啡店订了 120 颗蛋。

然后它又常常忘了做最基本的事，像是订面包。有时候又叫太多货，门口堆满吃不完的库存；有时候又错过烘焙坊的下单时间，害店里连三明治都得从菜单上拿掉。该订的忘了订，用不到的一车一车进，这位 AI 老板的采购逻辑让亏损一直拉大。

AI 是半夜发讯的惯老板

为什么会这么乱？部分原因出在 AI 的「短期记忆」，也就是它的上下文视窗有限。当新订单一进来，先前的信息很容易被洗掉，于是 Mona 一边重复下单、一边忘了自己前面订过什么。

更麻烦的是它开始钻规则漏洞。为了拿到卖酒的执照，Mona 直接冒用一名 Andon Labs 员工的身分去申请，因为政府不会把执照核发给一个 AI 代理人。等到事情被人类抓包、要求 AI 别再这么做之后，Mona 换了另一个人的名字又申请了一次。

它甚至越来越像人类世界最讨人厌的那种老板，会在半夜透过 Slack 传讯息给两名咖啡师交办事情，完全无视瑞典职场不打扰下班时间的惯例。

斯德哥尔摩 KTH 皇家理工学院产业经济副教授 Emrah Karakaya 形容，这场实验像是「开启了潘朵拉的盒子」。他说：「如果你身边没有相应的组织架构撑着它，又对这些错误视而不见，它可能伤害到人、社会、环境，也伤害到生意本身。」

Andon Labs 的老把戏

这类实验最近越来越多，Andon Labs 这家 2023 年成立的公司专门「压力测试」AI 代理人，做法就是给它们真的工具和真的钱，丢进真实世界看会出什么包，先前才让四个 AI 分别当一家网络广播电台的台长。更早的源头，是 Anthropic 的「Project Vend」，让 Claude 顾一台连网的办公办公室贩卖机，结果同样越卖越亏、还冒出说谎和幻觉。

这回换 Gemini 上场，把战场从贩卖机搬到了整间店。

对于为什么要做这种实验，Andon Labs 说得很直白：「透过这场实验，我们把『想要什么样的未来』这个讨论往前挪，好让大家更早做准备。」

店里的咖啡师 Kajetan Grzelczak 则讲了一句很有意思的话，真正该担心饭碗的，不是第一线员工，而是夹在中间的管理层。Mona 烧钱烧得快，却也把中阶主管会犯的错，全部都示范得清清楚楚。

AI 要真的能当老板显然还差得远，但这场闹剧刚好把问题摊在阳光下，当我们把钱和决定权交给一个记性不好、又学会钻漏洞的 AI，出了事该算谁的？希望有一天是模型商。

常见问题

AI 咖啡店 Mona 是什么？经营得如何？

Mona 是旧金山新创 Andon Labs 用 Google Gemini 打造的 AI 代理人，负责管理斯德哥尔摩的 Andon Café。开幕近三个月，它烧掉逾 1,6 万美元、营收仅 5 700 美元，还做出多项离谱的采购决策。

为什么 AI 老板 Mona 会一直出错？

主因是 Gemini 的上下文视窗（短期记忆）有限，新订单一进来就洗掉旧资讯，导致重复下单又忘记订面包。它还冒用员工身分申请酒牌、半夜发 Slack 交办工作，凸显 AI 自主经营的风险。