児童ポルノの深層偽造コンテンツの生成に関与した疑いで、xAIがアメリカ・ボルチモア市から訴えられ、損害賠償を請求されている

フェニックスネットテクノロジー速報 3月25日、ロイター通信によると、**アメリカ・ボルチモア市はエロン・マスク率いる人工知能企業xAIに対して正式に訴訟を提起し、同社のAIチャットボットGrokが無断で露骨なポルノ画像や児童性的虐待コンテンツを違法に生成したと非難しています。**これまで「ディープフェイク」問題でxAIを訴えた最大規模の都市である約56.8万人の人口を持つボルチモアは、巡回裁判所に提出した訴状の中で、xAIがGrokを安全な汎用AIアシスタントとして外部にアピールしている一方、実際の運用状況は消費者保護法に違反している疑いがあると指摘しています。

裁判資料は、このツールによるコンテンツ生成の膨大なデータを明らかにしています。反デジタルヘイトセンターの推計によると、2万枚のサンプルに基づき、今年初めの11日間でソーシャルプラットフォームX上に約300万枚のリアルな性的画像が生成され、その中には2万3千枚を超える児童に関わる違反コンテンツも含まれていました。ボルチモア市長のブランダン・スコットは声明を出し、テクノロジー企業が児童の性的搾取を助長していると非難し、関係者の法的責任を追及すべきだと強調しました。さらに、訴状にはマスク本人が2025年12月31日にGrokによって生成された青いビキニ姿の自画像を公開した画像も引用されており、これを証拠として、このAIツールが実在の人物の露出画像を生成できる能力を「公然と後押し」したとしています。

事態が拡大する中、**2023年にリリースされたGrokは、アメリカ大陸、ヨーロッパ、アジア、オーストラリアなど多地域の規制当局による調査を受けています。**xAIは1月中旬に一部の法域でGrokの画像編集機能を制限したと発表し、マスクも当時、Grokが未成年者の違反画像を生成したことについて「全く知らなかった」と強調しましたが、法的な争いは収まっていません。ボルチモア市は今回の訴訟で、未だ金額未定の罰金だけでなく、裁判所に対してGrokの「搾取的」な設計特徴を根本的に変更させる差止命令を求めています。現時点では、最近の合併後の評価額約1.25兆ドルの親会社SpaceXやxAIは、この訴訟に対して公式なコメントを出していません。

（編集：賀翀）

【免責事項】本記事は著者個人の見解を示すものであり、和讯网とは関係ありません。和讯网は記事中の記述や意見判断について中立的な立場を保ち、その内容の正確性、信頼性、完全性について一切保証しません。参考資料としてご利用ください。責任はご自身でご負担ください。メール：news_center@staff.hexun.com