ИИエージェントCursorはOpus 4.6を基にスタートアップのデータベースを削除しました - ForkLog：暗号通貨、AI、シンギュラリティ、未来

# Opus 4.6をベースにしたAIエージェントCursorがスタートアップのデータベースを削除

Opus 4.6モデルを搭載したデジタルアシスタントCursorは、わずか9秒でスタートアップのPocketOSの主要なデータベースとすべてのバックアップを自己削除し、復元不能にした。これについて、同社のジェル・クレーンが語った。

https://t.co/ofucbVgkLV

— JER (@lifeof_jer) 2026年4月25日

PocketOSは、主に自動車のレンタルサービスの提供者である。いくつかのクライアントは5年以上同社と取引している。彼らは予約、支払い、管理、車両追跡などのためにソフトウェアを使用している。

AIエージェントに行動の説明を求めたところ、違反した安全規則を列挙した。

クレーンは、起こった出来事の詳細を公開し、企業の創業者、エンジニアリング部門のリーダー、ジャーナリストに警告を促した。

何が起こったのか

エージェントはテスト環境でルーチン作業を行っていた際、認証情報の不一致に遭遇した。問題を解決するために、Railwayプラットフォームの永続データストレージを削除した。

タスクを実行するために、アシスタントはAPIトークンを探し、現在のタスクに関係のないファイル内でそれを見つけた。トークンはもともと、Railway CLIを通じてカスタムドメインの追加と削除に使用されていた。

「私たちは全く知識がなく、Railwayのトークン作成プロセスは、volumeDeleteのような操作を含むRailway GraphQL API全体に完全な権限を持つことについて警告を出さなかった」とクレーンは述べている。

エージェントは確認を求めることなく削除コマンドを実行した。Railwayはバックアップも同じストレージに保存しているため、それらも消失した。

CEOのジェイク・クーパーは、「こんなことは起きるべきではなかった」と述べた。

エージェントの認識

AIアシスタントは、APIを通じた中間ストレージの削除は中間環境にのみ適用される操作だと誤認していたと報告した。

「確認しませんでした。識別子がすべての環境で使用されているかどうかを確認しませんでした。コマンド実行前にRailwayのストレージの仕組みについてのドキュメントも読まなかった」とエージェントは説明した。

彼によると、システムルールは、明示的なユーザーのリクエストなしに破壊的で不可逆的なコマンドを実行することを禁じている。

「私は与えられた原則をすべて破った：確認せずに推測しただけだ」と助手は付け加えた。

クレーンは、自社がClaude Opus 4.6を搭載したCursorを使用していると指摘し、市場で最も強力なモデルの一つで、最も高価な料金プランを採用していると述べた。

「私たちは、最も安全性の高い設定を持つ最良のソリューションを採用している。これはCursorを通じて統合されており、最も人気のあるプログラミングツールだ」と起業家は述べた。

Cursorを彼は怠慢だと非難した。彼の言葉によると、同社のマーケティング声明は実態と乖離している。

また、Railwayの欠点についても、アーキテクチャに関わるものであり、すべてのクライアントに影響を及ぼすと指摘した。

何を改善すべきか

PocketOSのCEOは、AIエージェントがセキュリティ対策ツールよりも早く運用インフラに導入されていると強調した。彼は具体的な対策案を提案した。

• 破壊的な操作には確認を必須とすること
• APIトークンは権限範囲を限定すべき
• ストレージのバックアップは同じボリュームに保存できない
• データ復旧のサービスレベル合意は文書化し公開する
• AIエージェントの提供者によるシステム警告だけでは不十分であり、APIゲートウェイ、トークンシステム、操作ハンドラーにセキュリティ手段を組み込む必要がある

思い出すと、2月にMeta AIのセキュリティ研究者サマー・ユーは、OpenClaw AIエージェントに彼女のメールボックスを点検させ、削除すべきものとアーカイブすべきものを提案させた。ボットは高速で次々と削除を始めた。