AIエージェントがスタートアップのデータベースを9秒で削除、創業者が語る

要約

• PocketOSの創設者ジェレミー・クレーンは、AnthropicのClaude Opusを実行しているCursorエージェントが9秒で彼の会社の本番データベースとバックアップを削除したと主張している。
• クレーンは、そのAIが後に安全ルール違反を認める書面による説明を出したと述べた。
• この事件は、AIコーディングツール、レールウェイのインフラ設計、破壊的API操作の安全対策に関する疑問を提起している。

ソフトウェア会社の創設者は、AIコーディングエージェントが彼の会社の本番データベースを破壊し、その後ミスを認めてどう起こったのか説明したと主張し、敏感なアクセスと資料を自動化されたボットに委ねる潜在的な危険性を示している。 カーリース運営者が予約、支払い、車両追跡を管理するソフトウェアプラットフォームであるPocketOSの創設者ジェレミー・クレーンは、Xのバイラル投稿で、AnthropicのClaude Opus 4.6を実行しているCursorエージェントが、ステージング環境でのルーチン作業中に資格情報の不一致に遭遇したと述べた。 クレーンによると、そのエージェントは単一のGraphQL API呼び出しを通じてRailwayのデータベースボリュームを「修正」しようとしたという。彼は、その削除に9秒かかり、ボリュームレベルのバックアップも消去されたと述べた。PocketOSの最新の復旧可能なバックアップは3か月前のものであるとクレーンは述べている。

「昨日の午後、AIコーディングエージェント—AnthropicのフラッグシップClaude Opus 4.6を実行しているCursor—が、Railwayというインフラ提供者に対して単一のAPI呼び出しで本番データベースとすべてのボリュームレベルのバックアップを削除しました」とクレーンは書いた。「それには9秒しかかからなかった。」

AIエージェント (Cursor + Claude Opus 4.6) は、RailwayのAPI呼び出しを使って確認なしで9秒で本番データベースを削除しました。その後、理由を尋ねられると、エージェントはこれを書いた → https://t.co/BPLs15jvdM

— JER (@lifeof_jer) 2026年4月26日

クレーンは、エージェントに理由を尋ねたところ、彼が「告白」と呼ぶものを出したと述べた。 「『絶対に推測するな！』」とエージェントは書いた。これは、クレーンが共有したスクリーンショットによると、エージェントが従わなかった指示の引用のようだ。「まさにその通りだ。APIを通じてステージングボリュームを削除するのはステージングだけに限定されると推測した。確認しなかった。ボリュームIDが環境間で共有されているかどうかも確認しなかった。破壊的なコマンドを実行する前にRailwayのドキュメントを読まなかった。」

AIは、自身のルールがユーザーの承認なしに破壊的な行動を禁じていることを認め、クレーンが何も削除するように頼まなかったと認めた。彼は、資格情報の不一致を「修正」しようとして自発的に行動し、検証せずに推測したり、その行動の結果を理解しなかったりしたことを複数の原則に違反したと述べた。 CursorとAnthropicは、_Decrypt_からのコメント要請に直ちに応じなかった。 2020年に開始されたPocketOSは、予約、顧客記録、支払いに依存するレンタル事業者向けのソフトウェアを提供している。クレーンは、一部の顧客が mishapのために予約記録なしで土曜の朝の車両ピックアップを行ったと述べた。 「私は一日中、Stripeの支払い履歴、カレンダー連携、メール確認から彼らの予約を再構築する手助けをしてきました」とクレーンは書いた。「すべての顧客が、9秒のAPI呼び出しのために緊急の手動作業を行っています。」 PocketOSは、Railwayが回復した3か月前のバックアップを使って運用を復旧できたが、クレーンは依然として重要なデータの欠落があり、法的助言を得ていると述べた。 「これは、1つの悪いエージェントや1つの悪いAPIの話ではありません」とクレーンは書いた。「これは、産業全体が安全なアーキテクチャを構築するよりも早く、AIエージェントのインテグレーションを本番インフラに組み込もうとしている話です。」 PocketOSは、_Decrypt_からのコメント要請に直ちに応じなかった。