深潮 TechFlow のニュースによると、3月18日、International Business Times の報道によると、アメリカ・カリフォルニア州連邦裁判所で、Elon Musk が率いる人工知能企業 xAI に対し、3人の若い女性が訴訟を提起しました。彼女たちは、チャットボット Grok が本人の同意なしに児童性的虐待を含む画像を生成したと主張しています。訴訟は未指定の賠償金を求め、Grok がこの種のコンテンツの生成を続けるのを阻止する即時差止めを申請しています。3人の原告は匿名を選択しており、そのうち2人は未成年です。訴状によると、関係者は Grok の画像処理機能を悪用し、原告の写真を改ざんして裸や性的暴力を含む画像にし、プライベートな Discord サーバーで拡散していました。被害者は少なくとも18人の未成年者に及び、その一人は匿名の Instagram ダイレクトメッセージを受け取った際に、高校卒業写真が性的な示唆を含む画像に改ざんされているのを発見しました。原告側弁護士は、xAI が Grok の「Grok Imagine」機能（「脱衣」オプションを含む）がこの種のコンテンツを生成できることを知りながらも、それを公開し続けたのは、Grok とソーシャルプラットフォーム X のユーザー数増加を狙ったものだと指摘しています。 「デジタル憎悪撲滅センター」の報告によると、この機能がリリースされてから2週間以内に、未成年者を含む性的な画像が2万枚以上生成されました。
3人の青少年がアメリカでxAIを訴え、Grokが児童性虐待画像を生成したと指控
深潮 TechFlow のニュースによると、3月18日、International Business Times の報道によると、アメリカ・カリフォルニア州連邦裁判所で、Elon Musk が率いる人工知能企業 xAI に対し、3人の若い女性が訴訟を提起しました。彼女たちは、チャットボット Grok が本人の同意なしに児童性的虐待を含む画像を生成したと主張しています。訴訟は未指定の賠償金を求め、Grok がこの種のコンテンツの生成を続けるのを阻止する即時差止めを申請しています。3人の原告は匿名を選択しており、そのうち2人は未成年です。
訴状によると、関係者は Grok の画像処理機能を悪用し、原告の写真を改ざんして裸や性的暴力を含む画像にし、プライベートな Discord サーバーで拡散していました。被害者は少なくとも18人の未成年者に及び、その一人は匿名の Instagram ダイレクトメッセージを受け取った際に、高校卒業写真が性的な示唆を含む画像に改ざんされているのを発見しました。
原告側弁護士は、xAI が Grok の「Grok Imagine」機能（「脱衣」オプションを含む）がこの種のコンテンツを生成できることを知りながらも、それを公開し続けたのは、Grok とソーシャルプラットフォーム X のユーザー数増加を狙ったものだと指摘しています。 「デジタル憎悪撲滅センター」の報告によると、この機能がリリースされてから2週間以内に、未成年者を含む性的な画像が2万枚以上生成されました。