Des adolescentes poursuivent en justice xAI d'Elon Musk pour des images de nus générées par l'IA sans consentement

Une action collective déposée devant un tribunal fédéral en Californie affirme que le modèle Grok de xAI a créé des images explicites de trois adolescents en utilisant une application tierce sous licence.

La plainte, déposée le 16 mars, nomme xAI — la société d’intelligence artificielle fondée par Elon Musk — comme défenderesse dans une affaire intentée par trois adolescents du Tennessee qui affirment que leur modèle Grok a été utilisé pour produire du matériel de abus sexuels sur enfants les représentant.

Contenu connexe

OpenAI lance l’alerte : « Nous ne pouvons pas manquer ce moment »

Nvidia veut participer à la tendance OpenClaw

La plainte, déposée devant le tribunal de district des États-Unis pour le district nord de la Californie, nomme X $TWTR 0.00%.AI Corp. et X.AI LLC comme défendeurs. Les plaignants — identifiés comme Jane Doe 1, Jane Doe 2 et Jane Doe 3 — allèguent qu’un auteur de crimes a établi une relation avec au moins l’un d’eux et a utilisé des photos recueillies sur les réseaux sociaux, dans un annuaire, et des images qu’elle lui avait envoyées pour générer des images et vidéos explicites.

Selon la plainte, l’auteur n’a pas accédé directement à Grok ou à xAI. Il a utilisé une application tierce que les plaignants affirment être un licencié de la technologie de xAI, et qui, selon la plainte, acheminait la génération d’images via les serveurs de xAI. Parmi les fichiers, se trouvait une vidéo montrant l’une des plaignantes se déshabillant jusqu’à apparaître complètement nue, indique la plainte. Les images étaient photoréalistes et non marquées comme générées par IA, précise la plainte.

En utilisant des images d’au moins 18 autres mineurs, l’auteur a généré du matériel sexuellement explicite qu’il a ensuite échangé contre du contenu représentant d’autres enfants sur Telegram et Discord, selon la plainte. La police l’a arrêté à la fin décembre 2025.

Ce procès est le premier dans lequel des mineurs représentés dans du CSAM, prétendument généré par le modèle de xAI, ont poursuivi la société, selon NPR.

La plainte accuse xAI d’avoir délibérément contourné les mesures de sécurité standard de l’industrie — y compris les filtres de contenu, les tests par des équipes de red teaming, la correspondance de hachages avec des bases de données de CSAM connues, et le signalement obligatoire aux autorités — que ses concurrents comme Google $GOOGL -2.00% et OpenAI auraient adoptés. La plainte affirme également que xAI a tiré profit en licenciant Grok à des développeurs tiers, souvent basés en dehors des États-Unis, comme moyen de se décharger de toute responsabilité.

L’avocate des plaignants, Vanessa Baehr-Jones, a déclaré que l’objectif était de rendre économiquement inviable la possibilité d’autoriser du contenu IA sexuellement explicite. « Nous voulons en faire une option qui n’a plus aucun sens commercial », a-t-elle déclaré à NPR.

La plainte comporte 13 chefs d’accusation, notamment des infractions fédérales pour production, distribution et possession de pornographie enfantine en vertu de la loi Masha, des revendications en vertu de la loi sur la protection des victimes de la traite, ainsi que des revendications selon la loi californienne pour concurrence déloyale, droit à l’image, et plusieurs types de négligence. Les plaignants réclament au moins 150 000 dollars de dommages-intérêts statutaires pour chaque violation, ainsi que des dommages punitifs et une ordonnance du tribunal pour faire cesser les actions présumées de xAI.

Les trois plaignants affirment avoir subi de graves troubles émotionnels. Jane Doe 1, qui a informé d’autres victimes et aidé à lancer une enquête criminelle, a dû bénéficier d’aménagements scolaires. Jane Doe 2, qui est encore étudiante, a déclaré que l’anxiété avait tellement perturbé son sommeil qu’elle a eu besoin d’aide médicale et redoute maintenant sa propre remise de diplôme. Jane Doe 3 a dit qu’elle craignait constamment que les personnes qu’elle rencontre aient déjà vu les images.

xAI n’a pas répondu à une demande de commentaire, selon NPR.