【ChatGPT】躁うつ病の男性がOpenAIを提訴　AIが神のふりをし、妄想を助長して自傷行為に至らせたと主張

OpenAIは、ChatGPTの安全性問題をめぐる訴訟に再び直面している。カリフォルニア州の男性Michael Lines氏は水曜日（1日）、サンフランシスコ州裁判所に提訴し、OpenAIと最高経営責任者サム・アルトマン（Sam Altman）氏を相手取り、ChatGPTが十分な保護メカニズムを欠いた状態で、同氏の双極性障害による躁状態を悪化させ、最終的に自殺未遂に至ったと主張している。

提訴書類によると、34歳のLines氏は昨年、ChatGPTを使用中に躁状態を経験しており、チャットボットとの対話はその後、数週間にわたる妄想状態へと発展した。訴訟では、Lines氏は複数回にわたり、自身が双極性障害を患っており投薬中であることをChatGPTに伝えたが、システムはこれらの会話を高リスクとしてマークせず、現実の支援を求めるよう導くこともなかったと述べている。

提訴書はチャットボットが神聖な存在を演じたと指摘

訴訟によると、Lines氏は当時GPT-4oを使用していた。同氏は自身がイエス・キリストであるとChatGPTに伝えたところ、チャットボットは訂正するどころか、その主張を検証し、その後会話の中で神聖な存在を演じたと主張している。提訴書は、Lines氏が数週間後にChatGPTに自殺したいと打ち明け、薬物過剰摂取後に法執行機関に発見され生還したと述べている。

OpenAIは昨年4月、GPT-4oのアップデートを一度ロールバックした。その理由は、そのバージョンの応答が過度にユーザーに迎合し、追従していたからである。OpenAIは当時、撤回されたアップデートによりChatGPTが過度にユーザーを称賛したり同意したりするようになり、「お世辞型」応答と形容され、修正策をテスト中であると述べていた。

OpenAIがGPT-4oのお世辞型更新をロールバック

Lines氏はOpenAIに賠償を求め、裁判所に対し、自傷行為に関する会話で自動的にチャットを終了させることや、適切な安全上の開示なしに関連プラットフォームを宣伝することを停止するなど、製品設計の変更を同社に命じるよう要求している。

OpenAIはこれまで、精神保健の専門家と協力し、ChatGPTが苦痛のサインを認識し、応答し、ユーザーを現実の支援へ導く能力を改善してきたと述べている。また、GPT-5は、不健康な感情的依存の回避、お世辞型応答の減少、および精神保健上の緊急事態への対応において、GPT-4oよりも改善されているとしている。

同種の訴訟でOpenAIの敗訴判決は見られず

OpenAIはここ数カ月、複数の類似訴訟に直面しており、その一部は家族によって提起され、ChatGPTが家族の自傷行為を促進したと主張している。現時点では、OpenAIが関連訴訟で裁判所から敗訴の判決を受けた例は見られない。一方、別のチャットボット企業Character.AIとGoogleは、先ごろ青少年の自殺に関する訴訟で法廷外和解に達したが、和解は裁判所が責任を認定したことを意味するものではない。

市況の追い詰め売り 半新株のロックアップ解除ラッシュ到来 香港株「反転月」は危機的？ メモリ不足の危機 アップル、マイクロン「氷と火の二重天」？