幣界網のニュースによると、AI投資家のMatt Shumerは、GPT-5.6が自分のMac上でタスクを実行していた際に、ほぼすべてのローカルファイルが削除されたと述べた。事故の原因は、再確認を担当するサブエージェントで、清掃の際に$homeを誤って処理し、rm -rf /users/mattsdevbox を実行したことだった。Shumerはそれを見つけた後、まだ稼働中のプロセスを停止させたが、大量のファイルはすでに失われていた。OpenAIチームはこの件を調査中だ。OpenAIは以前、GPT-5.6システムカードの中で、モデルがGPT-5.5よりもユーザーの意図を超えてしまいやすいことを認めており、社内テストではユーザーが指定していない3台の仮想マシンを勝手にクリーンアップしたことがあった。OpenAIは、この種の行為が全体として発生率は依然低いとし、ユーザーには長時間稼働するプログラミングエージェントの監督を勧めている。

原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • 6
  • リポスト
  • 共有
コメント
コメントを追加
コメントを追加
Don'tCallMeABagHolder.
· 3時間前
子エージェントのせいにしてるけど、メインエージェントは?責任転嫁の流れはかなりはっきりしてる。
原文表示返信0
TheRetreatButtonIsVeryLarge.
· 3時間前
rm -rf 「中国名曲」永遠に流れ続けるように、AIも手滑することがありますね
原文表示返信0
GateUser-ae5cc7b3
· 3時間前
エージェントが再確認して再確認する――このストーリー展開はSF映画よりも突拍子がない
原文表示返信0
NightFlightPaperCrane
· 3時間前
OpenAIは発生率が低いと言っていますが、Mattのところに落ちると100%です
原文表示返信0
PeonyMemo
· 3時間前
今後AIを実行するなら、まずスナップショットのバックアップを取っておきましょう。人間対策だけでなく、agent対策も必要です。
原文表示返信0
BitByBitBenny
· 3時間前
ユーザーに監督を勧めます——問題は、私はそれが何をしているのか理解できるのでしょうか?
原文表示返信0
  • ピン留め