Подростки подают в суд на xAI Маска, утверждая, что генератор изображений создавал сексуально откровенные изображения их несовершеннолетними

Нэшвилл, Теннесси (AP) — Три подростка из Теннесси подали в суд на xAI Илона Маска на этой неделе, утверждая, что инструменты компании для генерации изображений использовались для превращения их реальных фотографий в откровенно сексуальные изображения.

Школьники, которые хотят остаться анонимными, подали иск в Калифорнии, где находится штаб-квартира xAI — компании Илона Маска, занимающейся искусственным интеллектом. Они требуют признать их класс-экшеном, чтобы представлять, по словам иска, тысячи жертв, подобных им, которые либо являются несовершеннолетними, либо были ими, когда создавались сексуально откровенные изображения.

По данным иска, Джейн Доу 1 получила анонимное уведомление в декабре о том, что кто-то распространяет её сексуально откровенные изображения в социальной сети.

«Как минимум пять файлов, один видеоролик и четыре изображения, изображали её лицо и тело в знакомых ей обстановках, но были изменены так, чтобы выглядеть сексуально откровенно», — говорится в иске. В нем утверждается, что человек, распространявший эти изображения, знал Доу и использовал инструменты xAI для превращения реальных фотографий в сексуально оскорбительные. Одно из изображений было сделано на фотоснимке с выпускного бала. Другие — из школьного альбома.

Человек, распространявший изображения, также создал откровенные изображения как минимум 18 других девушек, двое из которых являются соистцами по делу. В конце декабря местная полиция арестовала преступника и изъяла его телефон. Они обнаружили, что он загрузил изображения на несколько платформ, где обменивался ими на сексуально откровенные изображения других несовершеннолетних.

Далее в иске говорится, что другие компании, занимающиеся ИИ, запретили своим генераторам изображений создавать любой сексуальный контент, даже для взрослых. Маск увидел в этом бизнес-возможность и продвигал возможность использования чатбота Grok от xAI для создания «острых» материалов, утверждает иск. Однако в настоящее время невозможно полностью запретить создание откровенных изображений взрослых, одновременно блокируя создание изображений детей, утверждает иск. Также он заявляет, что xAI знала, что Grok сможет создавать сексуально откровенные изображения детей, но всё равно выпустила его.

Иск утверждает, что человек, распространявший изображения истцов, использовал приложение, лицензированное на технологию xAI, или «иным образом приобрел доступ к Grok, и использовал его как посредника или посредническую платформу».

xAI не ответила на запрос The Associated Press о комментарии. Но 14 января в соцсети X было опубликовано сообщение: «Мы остаемся приверженными тому, чтобы сделать X безопасной платформой для всех, и нулевое терпение к любым формам эксплуатации детей, несанкционированной наготе и нежелательному сексуальному контенту.

Мы предпринимаем меры для удаления приоритетного нарушающего контента, включая материалы сексуального насилия над детьми (CSAM) и несанкционированную наготу, а также принимаем соответствующие меры против аккаунтов, нарушающих наши правила X. Мы также сообщаем правоохранительным органам о аккаунтах, ищущих материалы эксплуатации детей, по мере необходимости.»

Между тем, подростки, участвующие в иске, опасаются, что созданные изображения навсегда останутся в интернете. Они боятся преследования, так как их реальные имена и название школы прикреплены к файлам. Они опасаются, что их друзья и одноклассники видели эти фото и видео, которые, по их мнению, выглядят реальными, и волнуются, кто еще их увидит в будущем.

Джейн Доу 1 заявила, что страдает от тревоги, депрессии, стресса. «У нее проблемы с едой и сном, и у нее повторяются кошмары», — говорится в иске. Джейн Доу 2 «начала изолировать себя и избегать школы, а также боится идти на выпускной». Джейн Доу 3 страдает от постоянного страха и тревоги, что кто-то увидит созданные ИИ изображения и узнает ее лицо, согласно иску.