3人の青少年がアメリカでxAIを提訴し、Grokが児童性的虐待画像を生成したと非難

深潮 TechFlow のニュースによると、3月18日、International Business Times の報道によると、3人の若年女性がアメリカ・カリフォルニア州連邦裁判所において、Elon Muskが率いる人工知能企業xAIを相手に訴訟を提起しました。彼女たちは、同社のチャットボットGrokが、本人の同意なしに児童性的虐待を含む画像を生成したと主張しています。訴訟は未指定の賠償金を求め、Grokによるこの種のコンテンツの生成を直ちに停止させる差止めを申請しています。原告は全員匿名を選択しており、そのうち二人は未成年です。

訴状によると、関係者はGrokの画像処理機能を悪用し、原告の写真を改ざんして裸や性的暴力を示唆する内容にし、プライベートなDiscordサーバーにアップロードして拡散しました。被害者は少なくとも18人の未成年者に及びます。そのうちの一人は、匿名のInstagramダイレクトメッセージを受け取った後、自分の高校卒業写真が性的な暗示を含む画像に改ざんされていることに気づきました。

原告側弁護士は、xAIがGrokの「Grok Imagine」機能（「脱衣」オプションを含む）がこのような内容を生成できることを知りながらも、それを公開し続けたのは、GrokやソーシャルプラットフォームXのユーザー数拡大を狙ったものだと指摘しています。 「デジタル憎悪撲滅センター」の報告によると、この機能がリリースされてから2週間以内に、未成年者を含む性的な画像が2万枚以上生成されました。