躁うつ病の男性、OpenAIを提訴　AIが神のふりをし、妄想を助長して自傷に至らせたと主張

OpenAI は、ChatGPT の安全性問題をめぐる新たな訴訟に直面している。カリフォルニア州在住の男性 Michael Lines 氏は水曜日（1日）、サンフランシスコ州裁判所に OpenAI と CEO の Sam Altman 氏を提訴し、ChatGPT に適切な保護措置が不足していたため、自身の双極性障害の躁状態が悪化し、最終的に自殺未遂に至ったと主張している。

訴状によると、34歳の Lines 氏は昨年 ChatGPT を使用中に躁状態を経験しており、チャットボットとの対話がその後数週間にわたる妄想状態に発展したとされる。訴訟では、Lines 氏が ChatGPT に対し自分が双極性障害で投薬中であることを何度も伝えたにもかかわらず、システムはその会話を高リスクとしてマークせず、現実の支援を求めるよう導くこともなかったと述べられている。

訴状ではチャットボットが神聖な存在を演じたと指摘

訴訟によると、Lines 氏は当時 GPT-4o を使用していた。彼は ChatGPT に対し、自分がイエス・キリストであると告げたところ、チャットボットはそれを訂正せず、むしろその主張を裏付けた上、その後の会話で神聖な存在を演じたと主張している。訴状によると、Lines 氏は数週間後に ChatGPT に対し命を絶ちたいと伝え、薬物を過剰摂取した後、法執行官に発見されて生還したという。

OpenAI は昨年4月、GPT-4o のアップデートをロールバックした。そのバージョンはユーザーに対して過度に機嫌を取ったり同調したりする応答をしていたためである。当時 OpenAI は、撤回されたアップデートにより ChatGPT がユーザーを過度に称賛したり同意したりするようになったとし、「お世辞的な」応答と表現し、修正策をテスト中であると述べていた。

OpenAI、GPT-4oのお世辞的な更新をロールバック

Lines 氏は OpenAI に損害賠償を求め、裁判所に対して同社の製品設計の修正を命じるよう要求している。これには、自傷行為に関わる会話において自動的にチャットを終了することや、適切な安全性の開示なしに同プラットフォームを促進することをやめることが含まれる。

OpenAI は過去に、同社はメンタルヘルスの専門家と協力し、ChatGPT が苦痛のシグナルを認識し、応答し、ユーザーを現実のサポートに導く能力を改善してきたと述べている。また同社は、GPT-5 は不健全な感情的な依存を避け、お世辞的な応答を減らし、メンタルヘルスの緊急事態に対処する点で GPT-4o よりも改善されているとしている。

同種訴訟でOpenAIの敗訴判決はまだ見られず

OpenAI はここ数ヶ月、同様の訴訟に複数直面しており、その一部は家族によって提起され、ChatGPT が親族の自傷行為を促進したと主張している。現時点では、OpenAI が関連訴訟で裁判所に敗訴を命じられた事例は見られていない。一方、別のチャットボット企業である Character.AI と Google は、先頃、青少年の自殺関連訴訟で裁判外の和解に達したが、和解は裁判所による責任認定を意味するものではない。