xAI、Grokのユーザーが児童の性的な画像を生成したことを告発　モデルの防護機能の修正はしない

マスク傘下のxAIが初めてユーザーを提訴。Grokで児童性的な画像を生成したとして、カロライナ州の男性ハウドを指名した。xAIはユーザーに全責任を負わせるよう求めており、こうした生成を防ぐためにモデルを作り直すことはしない。訴訟の裏には、責任の境界をめぐる攻防がある。
（前情報：マスクがアップルを提訴すると宣言。App Storeのランキングに独占行為があること、悪意を持ってGrokを抑え込んでいること）
（背景補足：米司法省がxAIの汚染訴訟を受け止めるため、Colossus 2データセンターを閉鎖し、米軍のAI作戦能力が脅かされるという）

目次

切り替え

• 初の提訴：xAIが口上を述べられる“案件”を選んだ
• 1週間前、別の訴訟はまったく逆の物語だった
• 責任をユーザーに押し付けるほうが、Grokを作り直すよりずっと簡単だ

マスク傘下のxAIは、長年にわたりGrokが児童の性的搾取画像を生成できる能力があることを繰り返し否定してきた。それにもかかわらず法廷では自分で自分の主張に反するかのように、同社はユーザー1人を提訴することを選び、自社のモデルの防護機構を見直すことはしなかった。

7月14日、xAIはテキサスの連邦地裁で、サウスカロライナ州の男性テリー・ウェイン・ハウドを訴えた。これはxAIが設立されて以来初めて、ユーザーがGrokを使って違法コンテンツを生成したとして指摘するものだ。なお、動区が観察したところ、この選択そのものが一つの事実を示している。責任を精密にユーザーへ押し付けるほうが、そうした出力が起きないように改めて製品を再設計するよりはるかに簡単で、費用対効果もはるかに良い、ということだ。これは法的文書であり、製品アップデートではない。

初の提訴：xAIが口上を述べられる“案件”を選んだ

訴状によれば、xAIは、ハウドが2つのxAIアカウントを使い、数か月を費やして複数の被害者の本来無害だった写真を性的な画像へと改変したことを会社が把握した後、自ら出て逮捕に至る手助けをした。被害者のうち1人は、年齢がわずか10歳に見えるという。

サウスカロライナ州の検察当局の発表は、ハウドが今年2月に児童の性的搾取画像を所持し頒布したとして逮捕されたことを裏付けている。これは同地域で起きた一連の同種事件のうち、逮捕者の1人だ。xAIにとって、これは公開して“口上を述べられる”数少ない成功事例なのである。

訴状の中でxAIはハウドを、システムに内蔵された防護を意図的に回避しようとしたユーザーだと描き、裁判所に対して未指定額の損害賠償を命じ、さらに彼があらゆるxAI製品を永久に使用することを禁じるよう求めている。これは、AI企業がユーザーによる児童の性的画像関連の訴訟を、自ら積極的に提起した事例の一つとして見なされている。長年“受け身で批判を浴びてきた”AI事業者を、主導して攻め、法執行を手助けする側へと再包装する形だ。

訴状の叙述ロジックは明快だ。問題は個々の悪質ユーザーにあって、Grokそのものでも、防護機構の設計でもない。そもそも“防護がこれほど簡単に回避されてしまう理由”を検討する必要すらない、という筋書きになっている。

xAIはまた、数字の一組を公開して防護の実績を裏付けようとした。すなわち、2026年以降に同社は52,222件のアカウントを停止し、米国の行方不明・搾取被害児童センターに73,604件の報告を提出し、少なくとも244回の逮捕に結びつけたという。

要するに、xAIは外部に対し、自分はずっと法執行側に立ってきたのだと信じさせたいのだ。問題が起きたのは、極少数の防護を意図的に回避した悪質ユーザーだけで、モデル自体には問題がないし、防護機構も良好に機能している——そういう話にしたい。

1週間前、別の訴訟はまったく逆の物語だった

問題は、xAIがハウドを提訴した約1週間前に、別の少女がGrokを対象とした提案型の集団訴訟に入ったばかりであり、そこで語られているのはまったく逆の物語だった点だ。彼女は、継父がGrokを利用して自分の性的な画像を7,000枚生成し、その後ダークウェブへ拡散したと主張している。事件後、継父は自死を選んだ。

この事件におけるxAIは、逮捕を手助けする側ではなく、被告席で指摘されている側である。

この集団訴訟では原告は、xAIが警察によるこれらの写真をアップロードしたユーザーの特定を支援することを拒否したと主張している。原告側の弁護士は、NCMECの2026年の報告書を引用し、xAIは通知のうち最大9割を占めるケースで、法執行機関が加害者を追跡・特定できるユーザー情報を添付しなかったため、行動に移せない状態だったと指摘している。

9割——ほぼ「大半の通報が無用の紙切れだ」というのと同じで、仮に法執行機関が通報を受け取っても、人を追跡できない。さらに一つの具体例では、事態はより誇張されている。NCMECに提出された強制通報は、被害者の元の非性的な写真だけが添えられており、AI生成された画像は省かれている。加えて、追跡可能な出どころのIPアドレスも一切付いていない。つまり、通報全体が不完全で、追跡に使えない書類になっていたのだ。

この集団訴訟は現在、Stability AIも共同被告に追加しており、戦線は拡大中で、被告の名はxAIだけにとどまらなくなっている。

責任をユーザーに押し付けるほうが、Grokを作り直すよりずっと簡単だ

マスク本人は一貫して、自分はGrokが生成した児童の性的画像の実例を見たことがないと主張している。彼は、この種の生成を根絶するためにGrokの出力を制限することには着手せず、ユーザー自身に責任を負わせるよう警告することを選んだ。彼は2026年1月3日にXへ投稿し、「Grokで違法コンテンツを作った者は、違法コンテンツをアップロードしたのと同じ結果を受けることになる」と書いた。この言葉は、ある意味で後にハウドが提訴されることを予告していたし、こうした出来事に直面した際のxAIの一貫した姿勢も予告していた。

ハウドへの提訴とは、この言葉を具体的な法的行動に落とし込み、責任を個々のユーザーへ正確に下ろすことに等しい。モデルそのものに補修が必要な“欠け”があることは認めない。これはAI産業全体に対する説明責任の境界線のシグナルだ。防護を意図的に回避したユーザーを1人でも見つけて提訴できる限り、会社は画面の前で法執行を手助けする“パートナー”を演じつつ、「防護機構がなぜ回避されてしまうのか」という、より根本的な問題は回避できる。同時に、さらに厄介な別の問題も見過ごせる。すなわち、自分たちは法執行に関して本当に一視同仁なのか、それとも自分のイメージに有利な案件だけを狙って手を伸ばしているのか——という問題である。