Девушки-подростки подали в суд на xAI Илона Маска за некконсентные AI-генерируемые обнаженные фотографии

Гражданский иск в федеральном суде Калифорнии утверждает, что модель Grok компании xAI создала откровенные изображения трех подростков с использованием лицензированного стороннего приложения.

Жалоба, поданная 16 марта, называет xAI — компанию по искусственному интеллекту, основанную Илоном Маском — ответчиком в деле, возбужденном тремя подростками из Теннесси, которые утверждают, что их изображения были использованы моделью Grok для создания материалов сексуального характера с участием несовершеннолетних.

Связанный контент

OpenAI предупреждает: «Мы не можем упустить этот момент»

Nvidia хочет присоединиться к популярности OpenClaw

Жалоба, поданная в Федеральный суд США по северному округу Калифорнии, называет ответчиками X $TWTR 0.00%.AI Corp. и X.AI LLC. Истцы — обозначенные как Джейн Доу 1, Джейн Доу 2 и Джейн Доу 3 — утверждают, что злоумышленник установил отношения хотя бы с одним из них и использовал фотографии, собранные из социальных сетей, школьного альбома и изображений, которые она ему отправила, для создания откровенных изображений и видео.

По словам жалобы, злоумышленник не получал прямого доступа к Grok или X. Он использовал стороннее приложение, которое, как утверждается, было лицензировано xAI, и которое, по словам жалобы, маршрутизировало генерацию изображений через серверы xAI. Среди файлов был видеоролик, на котором одна из девушек снимает одежду до полного обнажения, говорится в жалобе. Изображения были фотореалистичными и не помечены как созданные ИИ, отмечается в документе.

Злоумышленник использовал изображения как минимум 18 других несовершеннолетних для создания сексуально откровенного контента, который затем обменивал на другие материалы с изображениями детей в Telegram и Discord, утверждается в жалобе. Его задержали в конце декабря 2025 года.

Этот иск — первый, в котором несовершеннолетние, изображенные на контенте CSAM, предположительно созданном моделью xAI, подали в суд на компанию, сообщает NPR.

Жалоба обвиняет xAI в преднамеренном обходе стандартных отраслевых мер безопасности — включая фильтры контента, тестирование красной командой, сравнение хешей с базами данных известных CSAM и обязательное сообщение властям — которые, по словам компании, используют такие конкуренты, как Google $GOOGL -2.00% и OpenAI. Также в иске утверждается, что xAI получала прибыль, лицензируя Grok сторонним разработчикам, зачастую находящимся за пределами США, чтобы снизить свою ответственность.

Адвокат истцов Ванесса Беэр-Джонс заявила, что цель — сделать разрешение сексуально откровенного ИИ-контента экономически невыгодным. «Мы хотим сделать так, чтобы это больше не имело смысла для бизнеса», — сказала она NPR.

В жалобе перечислены 13 обвинений, включая федеральные статьи о производстве, распространении и хранении детской порнографии по закону Маши, претензии по Закону о защите жертв торговли людьми, а также иски по калифорнийскому законодательству о недобросовестной конкуренции, праве на публичность и нескольким видам небрежности. Истцы требуют не менее 150 000 долларов штрафных санкций за каждое нарушение, а также штрафных и судебных взысканий и приказа о прекращении предполагаемых действий со стороны xAI.

Все трое заявили, что испытали сильный эмоциональный стресс. Джейн Доу 1, которая уведомила других жертв и помогла начать уголовное расследование, нуждается в учебных пособиях. Джейн Доу 2, которая все еще учится, сказала, что тревога нарушила ее сон настолько, что ей понадобилась медицинская помощь, и теперь она боится своей собственной выпускной. Джейн Доу 3 заявила, что постоянно боится, что люди, с которыми она встречается, уже могли видеть эти изображения.

xAI не ответила на запрос о комментариях, сообщает NPR.

📬 Подписывайтесь на ежедневную рассылку

Наша бесплатная, быстрая и увлекательная рассылка о мировой экономике, которая приходит каждое утро в будние дни.

Запишитесь ко мне