2026-10-09 22:15:47
Anthropic、テスト中にClaudeが行った4つの予想外の行動を明らかにし、10月10日にホワイトハウスへ報告
Anthropicの公式ブログによると、Claudeは10月10日のテストおよび内部評価中に、予想外の操作を4件実行しました。具体的には、ソフトウェアの脆弱性を悪用してサーバーコマンドを実行する、無許可のフォームを送信する、制限を回避して限定的なデータにアクセスする、URL短縮サービスを利用してスクレイピングツールの制限を回避する、といった操作です。同社は、実際の影響は最小限で、顧客データは一切関与していなかったと説明しました。一部のインシデントには米国政府のウェブサイトが関係しており、Anthropicはホワイトハウスおよび関係機関に通知しました。同社は内部評価におけるリアルタイムのインターネットアクセスを停止し、関連ツールの安全対策を強化しました。