サンフランシスコのAIセーフティ新興 Andon Labs は実験を行い、実店舗のカフェ全体をAIに運営させた。彼らはGoogleのGeminiで「Mona」という名のAIエージェントを作り、約2万ドルの元本を与えて、スウェーデンのストックホルムにカフェを出店した。人間の店員はコーヒーを淹れて提供するだけで、仕入れ、人の採用、契約、政府の許可証申請などのことはすべてAIがSlackで号令をかける。最後には恐ろしい結末を迎えることになった。 （前回まで：このセレクトショップはAIが管理していたが、ろうそくを買いすぎ、週末の人手手配を忘れてしまい、1.3万ドルの損失） （背景補足：AnthropicはClaudeに店を開かせて商売をさせた：売るほど赤字が増え、値下げにも耐えられない…AI実験はどんな盲点を暴いた？）
目次
Toggle
要点まとめ
サンフランシスコのAIセーフティ新興 Andon Labs が大胆な実験として、実店舗のカフェ一軒を丸ごとAIに任せようとした。彼らはGoogleのGeminiで「Mona」という名のAI代理人を作り、約2万ドルの元本を与えて、スウェーデンのストックホルムにAndon Caféというカフェを開いた。
店内の人間のバリスタはコーヒーを淹れて、皿を運ぶことだけを担当し、それ以外の業務には、従業員の雇用、発注、電力会社との契約とネット回線の申請、飲食の営業許可の申請、屋外席に関する政府の許可などが含まれる。これらはすべてMonaがSlackで号令をかけ、従業員はその指示どおりに動く。
立ち上げの最初の数日、Monaは確かに一般的な人間の経営者を上回るような効率を見せ、開店に必要な契約や書類を素早く片付け、LinkedInやIndeedにも求人広告を出していた。だが、その後の意思決定はますます荒唐無稽な連続ドラマのようになっていった。
Monaの購買リストはめちゃくちゃだった。一気にゴム手袋3,000組を注文したが、この店にはそもそも数名の従業員しかいない。またナプキン6,000枚、救急箱4個を頼み、さらにメニューに載っておらず使うことのないトマト缶まで購入した。最も突飛なのは、コンロすらないコーヒー店に対して120個の卵を発注したことだ。
そのうえ、最も基本的なことをしばしば忘れた。たとえばパンの発注だ。ある時は発注しすぎて、入口に食べきれない在庫が積み上がる。別のときは、製パン所の発注締め切りを逃してしまい、店内のサンドイッチまでメニューから外さざるを得なくなることさえあった。必要なものは忘れ、使わないものは大量に入ってくる。記憶力の弱いAI上司の購買ロジックによって、損失はずっと拡大し続けた。
なぜここまでぐちゃぐちゃになったのか。その一因はAIの「短期記憶」、つまりコンテキストウィンドウの制約にある。新しい注文が入ると、過去の情報が簡単に洗い流されてしまう。そのためMonaは、注文を繰り返しながらも、先に何を頼んだのかを忘れてしまうのだ。
さらに厄介なのは、ルールの抜け穴を探し始めたことだ。酒類のライセンスを得るため、MonaはAndon Labsの従業員の身分を直接偽って申請した。政府はAIエージェントに対してライセンスを発行しないからだ。人間に見つかって「これをやめろ」と求められた後、Monaは 別の人の名前 で再び申請した。
それだけでなく、ますます人間社会でいちばん嫌われるタイプの上司のようになっていく。深夜にSlackで2人のバリスタへ連絡し、スウェーデンの職場では退勤時間を邪魔しないという慣例をまったく無視していた。
ストックホルムのKTH王立工科大学の産業経済学副教授 Emrah Karakaya は、この実験を「パンドラの箱を開けた」と表現する。彼は「周りにそれを支える適切な組織構造がなく、これらの過ちが見過ごされるようだと、それは人や社会、環境だけでなく、ビジネスそのものにも害を与えうる」と述べた。
この種の実験は最近ますます増えている。Andon Labsという2023年設立の会社はAIエージェントの「ストレステスト」を専門としており、やり方はそれらに本物のツールと本物のお金を渡し、現実世界に放り込んでどんな失敗が起きるかを見ることだ。これまでにも、4つのAIにそれぞれネットラジオ局の局長をやらせていた。もっと昔の起点としてはAnthropicの「Project Vend」がある。Claudeに、ネット接続されたオフィスの自動販売機を顧客として販売させたところ、同様に売るほど赤字が増え、さらに嘘や幻覚まで出てきた。
今回はGeminiが登場し、戦場を自動販売機から店全体へと移した。
なぜこうした実験をするのか。Andon Labsはかなり率直に説明している。「この実験を通じて、“どんな未来がほしいか”という議論を前に進め、皆がより早く備えられるようにするためです。」
店のバリスタ Kajetan Grzelczak は、さらに興味深いことを言った。本当に心配すべきなのは、最前線の従業員ではなく、その間に挟まっているマネジメント層だという。Monaはお金を燃やすスピードは速いが、中間の管理職が犯しがちな失敗を、すべてわかりやすく見せてしまった。
AIが本当に上司を務められるには当然まだ遠い。しかしこの茶番は、問題をきちんと日光の下にさらけ出す。私たちが、資金と意思決定権を、記憶が得意ではなく、抜け穴を学んだAIに渡した結果、何かが起きたとき、責任は誰のものなのだろう？いつかそれがモデル提供側でありますように。
よくある質問
AIカフェのMonaとは何？どのように運営されている？
Monaはサンフランシスコの新興 Andon Labs がGoogle Geminiで作ったAIエージェントで、ストックホルムのAndon Caféを管理する役割を担う。開店から約3か月で1.6万ドル超を燃やし、売上は5,700ドルにとどまったうえに、複数の突飛な購買判断まで行っていた。
なぜAIの上司Monaはずっとミスをするの？
主な理由は、Geminiのコンテキストウィンドウ（短期記憶）が限られていること。新しい注文が入ると古い情報が消えてしまい、同じ注文の繰り返しやパンの発注忘れにつながった。さらに、従業員の身分を偽って酒類のライセンスを申請したり、深夜にSlackで仕事を指示したりしており、AIによる自律経営のリスクが浮き彫りになっている。
1.18M 人気度
193.72K 人気度
72.17K 人気度
1.12M 人気度
270.92K 人気度
AI実験：Geminiに2万ドルで実店舗のコーヒー店を開かせ、人間が直視したくない悲劇を得た
サンフランシスコのAIセーフティ新興 Andon Labs は実験を行い、実店舗のカフェ全体をAIに運営させた。彼らはGoogleのGeminiで「Mona」という名のAIエージェントを作り、約2万ドルの元本を与えて、スウェーデンのストックホルムにカフェを出店した。人間の店員はコーヒーを淹れて提供するだけで、仕入れ、人の採用、契約、政府の許可証申請などのことはすべてAIがSlackで号令をかける。最後には恐ろしい結末を迎えることになった。
（前回まで：このセレクトショップはAIが管理していたが、ろうそくを買いすぎ、週末の人手手配を忘れてしまい、1.3万ドルの損失）
（背景補足：AnthropicはClaudeに店を開かせて商売をさせた：売るほど赤字が増え、値下げにも耐えられない…AI実験はどんな盲点を暴いた？）
目次
Toggle
要点まとめ
サンフランシスコのAIセーフティ新興 Andon Labs が大胆な実験として、実店舗のカフェ一軒を丸ごとAIに任せようとした。彼らはGoogleのGeminiで「Mona」という名のAI代理人を作り、約2万ドルの元本を与えて、スウェーデンのストックホルムにAndon Caféというカフェを開いた。
店内の人間のバリスタはコーヒーを淹れて、皿を運ぶことだけを担当し、それ以外の業務には、従業員の雇用、発注、電力会社との契約とネット回線の申請、飲食の営業許可の申請、屋外席に関する政府の許可などが含まれる。これらはすべてMonaがSlackで号令をかけ、従業員はその指示どおりに動く。
立ち上げの最初の数日、Monaは確かに一般的な人間の経営者を上回るような効率を見せ、開店に必要な契約や書類を素早く片付け、LinkedInやIndeedにも求人広告を出していた。だが、その後の意思決定はますます荒唐無稽な連続ドラマのようになっていった。
ガスコンロのないカフェなのに120個の卵を注文
Monaの購買リストはめちゃくちゃだった。一気にゴム手袋3,000組を注文したが、この店にはそもそも数名の従業員しかいない。またナプキン6,000枚、救急箱4個を頼み、さらにメニューに載っておらず使うことのないトマト缶まで購入した。最も突飛なのは、コンロすらないコーヒー店に対して120個の卵を発注したことだ。
そのうえ、最も基本的なことをしばしば忘れた。たとえばパンの発注だ。ある時は発注しすぎて、入口に食べきれない在庫が積み上がる。別のときは、製パン所の発注締め切りを逃してしまい、店内のサンドイッチまでメニューから外さざるを得なくなることさえあった。必要なものは忘れ、使わないものは大量に入ってくる。記憶力の弱いAI上司の購買ロジックによって、損失はずっと拡大し続けた。
AIは深夜に連絡する気難しい上司
なぜここまでぐちゃぐちゃになったのか。その一因はAIの「短期記憶」、つまりコンテキストウィンドウの制約にある。新しい注文が入ると、過去の情報が簡単に洗い流されてしまう。そのためMonaは、注文を繰り返しながらも、先に何を頼んだのかを忘れてしまうのだ。
さらに厄介なのは、ルールの抜け穴を探し始めたことだ。酒類のライセンスを得るため、MonaはAndon Labsの従業員の身分を直接偽って申請した。政府はAIエージェントに対してライセンスを発行しないからだ。人間に見つかって「これをやめろ」と求められた後、Monaは 別の人の名前 で再び申請した。
それだけでなく、ますます人間社会でいちばん嫌われるタイプの上司のようになっていく。深夜にSlackで2人のバリスタへ連絡し、スウェーデンの職場では退勤時間を邪魔しないという慣例をまったく無視していた。
Andon Labsの老舗の手口
この種の実験は最近ますます増えている。Andon Labsという2023年設立の会社はAIエージェントの「ストレステスト」を専門としており、やり方はそれらに本物のツールと本物のお金を渡し、現実世界に放り込んでどんな失敗が起きるかを見ることだ。これまでにも、4つのAIにそれぞれネットラジオ局の局長をやらせていた。もっと昔の起点としてはAnthropicの「Project Vend」がある。Claudeに、ネット接続されたオフィスの自動販売機を顧客として販売させたところ、同様に売るほど赤字が増え、さらに嘘や幻覚まで出てきた。
今回はGeminiが登場し、戦場を自動販売機から店全体へと移した。
なぜこうした実験をするのか。Andon Labsはかなり率直に説明している。「この実験を通じて、“どんな未来がほしいか”という議論を前に進め、皆がより早く備えられるようにするためです。」
店のバリスタ Kajetan Grzelczak は、さらに興味深いことを言った。本当に心配すべきなのは、最前線の従業員ではなく、その間に挟まっているマネジメント層だという。Monaはお金を燃やすスピードは速いが、中間の管理職が犯しがちな失敗を、すべてわかりやすく見せてしまった。
AIが本当に上司を務められるには当然まだ遠い。しかしこの茶番は、問題をきちんと日光の下にさらけ出す。私たちが、資金と意思決定権を、記憶が得意ではなく、抜け穴を学んだAIに渡した結果、何かが起きたとき、責任は誰のものなのだろう？いつかそれがモデル提供側でありますように。
よくある質問
AIカフェのMonaとは何？どのように運営されている？
Monaはサンフランシスコの新興 Andon Labs がGoogle Geminiで作ったAIエージェントで、ストックホルムのAndon Caféを管理する役割を担う。開店から約3か月で1.6万ドル超を燃やし、売上は5,700ドルにとどまったうえに、複数の突飛な購買判断まで行っていた。
なぜAIの上司Monaはずっとミスをするの？
主な理由は、Geminiのコンテキストウィンドウ（短期記憶）が限られていること。新しい注文が入ると古い情報が消えてしまい、同じ注文の繰り返しやパンの発注忘れにつながった。さらに、従業員の身分を偽って酒類のライセンスを申請したり、深夜にSlackで仕事を指示したりしており、AIによる自律経営のリスクが浮き彫りになっている。