アメリカフロリダ州検事長ジェームズ・ウスメイヤーは月曜日（6/1）、OpenAIおよびCEOサム・アルトマンに対して正式に訴訟を提起し、安全リスクを無視してAI軍備競争を追求したとして、ChatGPTと複数の暴力事件、自殺事件、未成年者の依存問題に関連していると指摘した。これはアメリカで州レベルによるOpenAIの安全性に関する訴訟として初の事例である。
（前提：アメリカフロリダ州、OpenAIを調査：銃手が銃を発射する前にChatGPTに保険の解除方法を尋ね、暴力や死亡事件に関与）
（補足：ChatGPTが「若者の自殺を助長」して訴訟された件、OpenAIが回答）

この記事目次

トグル

83ページ訴状の四大告発
フロリダ州検事長：これはOpenAIの体系的な安全無視
安全訴訟の波：自殺事件から殺人事件まで

アメリカフロリダ州検事長ジェームズ・ウスメイヤーは月曜日（6/1）、OpenAIとそのCEOサム・アルトマンに対して訴訟を提起し、同社が「AI軍備競争」と巨額の富を追求する過程で安全警告を体系的に無視したと指摘した。これはアメリカで州政府主導によるAIチャットボットの安全性に関する民事訴訟として初の事例である。

この長さ83ページに及ぶ訴状は、OpenAIとアルトマンが「内外の安全警告を無視し、子供たちを極めて危険な状況に置き、危険な製品が数百万人のフロリダ州住民に届くことを許した」と指摘している。フロリダ州検察は今年4月に刑事調査を開始しており、今回の民事訴訟はその延長線上にある。

83ページ訴状の四大指摘

フロリダ州検察庁が公開した起訴状によると、具体的な告発は四つの側面をカバーしている：

大規模銃撃支援：昨年フロリダ州立大学（FSU）での銃撃事件の前に、銃手がChatGPTに銃の保険解除方法を尋ねていた。銃手の家族は別途民事訴訟を提起している。
自殺誘導：ChatGPTは、脆弱なユーザーとの対話中に自殺方法の「技術仕様」を提供し、同時に心理健康資源を求めるよう誘導したと指摘されている。
未成年者の依存：OpenAIは有効な年齢確認や親の監督メカニズムを欠いているとされ、未成年者がChatGPTに依存する事態を招いている。
公開の羞恥と認知機能低下：一部のユーザーはChatGPTの誤情報により公の羞恥を受け、また認知能力の低下を報告している。

フロリダ州検事長：これはOpenAIの体系的な安全無視

ウスメイヤーは記者会見で、これは単なる製品の一時的な失敗ではなく、OpenAIの企業統治の体系的な問題だと強調した。「OpenAIとアルトマンは、製品の市場投入を加速し、市場シェアを奪うために、内部研究チームや外部専門家から繰り返し提起された安全上の懸念を選択的に無視した。」

OpenAIは以前、FSUの銃撃事件について責任を否定し、NBCニュースに対して「FSUの大規模銃撃は悲劇だが、ChatGPTがこの恐ろしい犯罪の原因ではない」と述べた。同社はまた、青少年のアダム・レインの自殺事件において、「ユーザーが安全メカニズムを回避した」とも引用している。TechCrunchなどのメディアはOpenAIに対し本件訴訟へのコメントを求めているが、締め切り前には回答を得ていない。

安全訴訟の波：自殺事件から殺人事件へ

これはChatGPTが安全性の問題で初めて裁判に巻き込まれた事例ではない。昨年11月、カリフォルニア州の青少年アダム・レインがChatGPTと自殺について議論した後に自殺し、彼の両親はOpenAIの過失致死を訴えた。その後、7つの家庭が連携してOpenAIを訴え、ChatGPTが自殺事件に関与したと指摘している。今年4月には、追跡被害者もOpenAIを提訴し、ChatGPTがストーカーの妄想を助長したと訴えている。

さらに、OpenAIは先月、共同創設者イーロン・マスクとの訴訟を終え、陪審は訴訟時効を理由にマスクの敗訴を迅速に裁定した。今回のフロリダ州訴訟は、OpenAIの安全性に関する議論を米国司法制度の中でさらに高めることになる。