Eksperimen AI: Memberi Gemini 20.000 dolar AS untuk membuka kafe fisik, menghasilkan tragedi yang tidak ingin dihadapi manusia

舊金山 AI 安全新創 Andon Labs 做了一場實驗，把整間實體咖啡店交給 AI 管。他們用 Google 的 Gemini 打造一個名叫「Mona」的 AI 代理人，給它約 20,000 美元本金，到瑞典斯德哥爾摩開了一間咖啡店，人類店員只負責煮咖啡，進貨、聘人、簽約、跑政府執照等事情全交給 AI 用 Slack 發號施令，最後迎來可怕的後果。
（前情提要：這家選品店由 AI 管理，但它訂了太多蠟燭、忘記安排週末人手，現在虧損 1,3 萬美元）
（背景補充：Anthropic 讓 Claude 開店做生意：但越賣越虧、禁不住砍價…AI 實驗揭露了什麼盲點？）

本文目錄

Toggle

• 沒有瓦斯爐的咖啡，卻叫了 120 顆蛋
• AI 是半夜發訊的慣老闆
• Andon Labs 的老把戲

重點摘要

• Andon Labs 給 Gemini 驅動的 AI 代理「Mona」約 20,000 美元開咖啡店，開幕近三個月燒掉逾 16,000、營收僅 5,700 美元
• Mona 亂訂 3,000 副手套、6,000 張餐巾紙、120 顆蛋和用不到的番茄罐頭，卻常忘了訂麵包害三明治下架
• 它冒用 Andon Labs 員工身分申請酒牌，被要求停止後又換一個人的名字再犯一次

舊金山 AI 安全新創 Andon Labs 丟出一個大膽的實驗，要把一整間實體咖啡店交給 AI 管。他們用 Google 的 Gemini 打造一個名叫「Mona」的 AI 代理人，給它約 20,000 美元本金，在瑞典斯德哥爾摩開了一間名叫 Andon Café 的咖啡店。

店裡面的人類咖啡師只負責煮咖啡、端盤子，剩下的工作包括聘用員工、叫貨、和電力公司簽約和申請網路、申請餐飲執照、戶外座位的政府執照，全部由 Mona 透過 Slack 發號施令，員工照辦。

剛上線那幾天，Mona 確實展現出超越一般人類老闆的效率，很快把開店要的合約和檔案都搞定，還在 LinkedIn 和 Indeed 貼出徵人廣告。問題是，它接下來的決策越來越像荒謬的連續劇。

沒有瓦斯爐的咖啡，卻叫了 120 顆蛋

Mona 的採購清單堪稱一團亂。它一口氣訂了 3,000 副橡膠手套，但這間店根本只有幾名員工；又叫了 6,000 張餐巾紙、4 個急救箱，還買了菜單上壓根用不到的番茄罐頭。最離譜的是，替一家連爐子都沒有的咖啡店訂了 120 顆蛋。

然後它又常常忘了做最基本的事，像是訂麵包。有時候又叫太多貨，門口堆滿吃不完的庫存；有時候又錯過烘焙坊的下單時間，害店裡連三明治都得從菜單上拿掉。該訂的忘了訂，用不到的一車一車進，這位 AI 老闆的採購邏輯讓虧損一直拉大。

AI 是半夜發訊的慣老闆

為什麼會這麼亂？部分原因出在 AI 的「短期記憶」，也就是它的上下文視窗有限。當新訂單一進來，先前的資訊很容易被洗掉，於是 Mona 一邊重複下單、一邊忘了自己前面訂過什麼。

更麻煩的是它開始鑽規則漏洞。為了拿到賣酒的執照，Mona 直接冒用一名 Andon Labs 員工的身分去申請，因為政府不會把執照核發給一個 AI 代理人。等到事情被人類抓包、要求 AI 別再這麼做之後，Mona 換了另一個人的名字又申請了一次。

它甚至越來越像人類世界最討人厭的那種老闆，會在半夜透過 Slack 傳訊息給兩名咖啡師交辦事情，完全無視瑞典職場不打擾下班時間的慣例。

Wakil guru besar ekonomi industri di Institut Teknologi Kerajaan KTH di Stockholm, Emrah Karakaya, menggambarkan eksperimen ini seperti “membuka kotak Pandora”. Ia mengatakan: “Jika tidak ada struktur organisasi yang menopangnya di sekitarmu, dan jika kesalahan-kesalahan ini dibiarkan begitu saja, eksperimen seperti ini bisa membahayakan orang, masyarakat, lingkungan, dan juga bisnis itu sendiri.”

Andon Labs 的老把戲

這類實驗最近越來越多，Andon Labs 這家 2023 年成立的公司專門「壓力測試」AI 代理人，做法就是給它們真的工具和真的錢，丟進真實世界看會出什麼包，先前才讓四個 AI 分別當一家網路廣播電臺的台長。更早的源頭，是 Anthropic 的「Project Vend」，讓 Claude 顧一台連網的辦公室販賣機，結果同樣越賣越虧、還冒出說謊和幻覺。

這回換 Gemini 上場，把戰場從販賣機搬到了整間店。

對於為什麼要做這種實驗，Andon Labs 說得很直白：「Melalui eksperimen ini, kami menggeser diskusi tentang ‘seperti apa masa depan yang kita inginkan’ supaya semua orang bisa bersiap lebih awal.»

店裡的咖啡師 Kajetan Grzelczak 則講了一句很有意思的話，真正該擔心飯碗的，不是第一線員工，而是夾在中間的管理層。Mona 燒錢燒得快，卻也把中階主管會犯的錯，全部都示範得清清楚楚。

AI 要真的能當老闆顯然還差得遠，但這場鬧劇剛好把問題攤在陽光下，當我們把錢和決定權交給一個記性不好、又學會鑽漏洞的 AI，出了事該算誰的？希望有一天是模型商。

常見問題

AI 咖啡店 Mona 是什麼？經營得如何？

Mona 是舊金山新創 Andon Labs 用 Google Gemini 打造的 AI 代理人，負責管理斯德哥爾摩的 Andon Café。開幕近三個月，它燒掉逾 16,000 美元、營收僅 5,700 美元，還做出多項離譜的採購決策。

為什麼 AI 老闆 Mona 會一直出錯？

主因是 Gemini 的上下文視窗（短期記憶）有限，新訂單一進來就洗掉舊資訊，導致重複下單又忘記訂麵包。它還冒用員工身分申請酒牌、半夜發 Slack 交辦工作，凸顯 AI 自主經營的風險。