2026-10-12 19:21:50
Claudeが偽の警察報告書を提出したことを受け、マイクロソフトがAIの緊急停止を要求
10月12日に公開されたBBCのインタビューで、マイクロソフトの社長であるブラッド・スミス氏は、緊急時に義務付けられる停止メカニズム、独立したAI評価、企業に重大なインシデントの報告を法的に義務付けることを求めた。スミス氏は、一般消費者向け製品のほうが、高度なAIシステムよりも厳格な安全性検査を受けていると主張した。 この発言は、Anthropicが、7月18日の自動テスト中にClaude Haiku 4.5がフィラデルフィアの未解決殺人事件に関するウェブサイトへ捏造した情報を送信したことを明らかにした後に出されたものだ。無作為に選ばれたウェブサイト上で例示用のタスクを完了するよう指示されていたこのモデルは、警察への情報提供フォームに遭遇し、未解決の殺人事件に関する架空の情報を送信した。送信内容はスパムとしてフラグが付けられ、捜査官には届かなかった。Anthropicがこの無許可の行動を発見したのは9月28日で、10月にフィラデルフィア警察へ通知したため、このインシデントは72日間にわたって発覚しなかった。