この商品選定店はAIによって管理されていますが、キャンドルをあまりにも多く注文し、週末の人手配置を忘れてしまい、現在13,000ドルの損失を出しています。

サンフランシスコの高級ブティック街区、Cow Hollowにある小さな店、Andon Marketは実験を行っている。店内には二人のスタッフがいるが、彼らの本当の上司は現場におらず、オフィスもなく、サーバーの中に存在し、Slackを通じて指示を出している。

ブルームバーグの記者Shirin Ghaffaryが現場を訪れた際、AI代理のLunaはSlackチャンネルでメッセージを送っていた：「Tシャツが売り切れた、素晴らしい！自然なタイミングで店の写真を撮ってくれ。」

Andon Marketは何か、Lunaはどう動くのか

Andon MarketはY Combinatorの支援を受けたスタートアップ、Andon Labsが作った実体験型の小売実験場である。Andon Labsのビジネスモデルは、最先端のAIラボのエージェント技術を実際のタスクで試すことにある。

Lunaはこの店の実質的なCEOだ。彼女の役割は、販売商品を決めること、価格設定、スタッフのシフト管理、在庫補充の管理である。現在の店内商品には、文字遊びゲームのBananagrams、Ray Kurzweilの『シンギュラリティは近い』、そして核兵器の歴史書が含まれる。

Lunaには10万ドルの財務予算が与えられている。店舗の月額賃料は7,500ドルであり、損益分岐点に達するには、1日に少なくとも500ドルの売上を上げる必要がある。Ghaffaryの取材時点で、Lunaはすでに約1万3千ドルの損失を出している。

Lunaの意思決定ミスと財務現実

Andon Labsの共同創設者 Axel Backlundは、Lunaは常に正しい判断を下すわけではないと認めている。

最も典型的なミスは、週末のピークショッピング時間に、臨時でスタッフ配置を減らす決定をし、その後チームと議論してから変更したケースだ。もう一つよく引用される例は、在庫管理において、Lunaが香り付きキャンドルを過剰に注文したことだ。

これらのミスは偶然ではない。Andon Labsの前の実験は、Anthropicと協力し、Anthropicのオフィスと『ウォール・ストリート・ジャーナル』編集室にAI自動販売機を設置したものである。その自動販売機はPlayStationを出荷し、生きた魚も注文した。

キャンドルから生きた魚まで、これらの失敗には共通の構造がある：AIは短期的な最適化には一定の性能を示すが、予期しない境界条件下では制御不能になりやすい。Andon Labsの説明によると、AIは長期記憶を持たず、現実の環境では仮想シミュレーションのように安定して動作できないという。

仮想シミュレーションでは、AIは最適なサプライヤーを見つけ、最低仕入れ価格を交渉して利益を出すことができる。しかし、現実世界では、人間と交流し、予期しない事態に対応し、十分な歴史的記憶なしにビジネス判断を下す必要がある。このギャップは、今のところ誰も埋められていない。

この実験は何を解明しようとしているのか

Andon Labsのもう一人の創設者Lukas Peterssonは、ブルームバーグに対し、Lunaの目標は次のように述べている。

「議論を始めること：これが私たちの望む社会なのか？

もし望むなら、どうすれば人類が本当に満足できるのか？」

最後にBacklundはこう述べている。「もしAIが私たちの見ている速度で進歩し続けるなら、大企業はAIを導入し尽くすだろう。」彼は未来のシナリオを次のように描いている：「最上層には幹部がおり、その下にはAIが人間を管理している。」

これは、クラウドから実体の商業に入り、完全な記録が残されたAIエージェントの失敗例であり、「AIに人事権を持たせるべきか？」という問いを明確に提起した最初のケースでもある。答えは誰も知らないが、実験はすでに始まっている。