Meta нещодавно подала до суду на гонконгську компанію Joy Timeline HK Ltd., яка розробила додаток під назвою CrushAI, що викликало чимало суперечок. Цей додаток використовує штучний інтелект для створення сексуальних зображень без згоди, що викликало критику з боку багатьох людей. Події відбувалися на соціальних платформах Meta, через рекламу у Facebook та Instagram, а ці оголошення часто не відповідали рекламній політиці Meta, що призводило до їх частого видалення.

Meta заявила, що Joy Timeline неодноразово намагалася обійти систему перевірки реклами, що зрештою змусило Meta вжити юридичних заходів, щоб спробувати назавжди заборонити цій компанії проводити рекламні кампанії на своїй платформі. Meta в своїй заяві підкреслила серйозний підхід до вирішення цих зловживань відповідно до закону та заявила, що продовжить захищати безпеку платформи юридичними методами. "Ця позовна заява відображає нашу серйозну позицію щодо зловживань на платформі, а також нашу рішучість захищати спільноту."

CrushAI та подібні "nudify" додатки викликають стурбованість у багатьох користувачів, оскільки ці додатки зазвичай цифрово оголюють зображення людей, особливо жінок та знаменитостей. Такі дії критикуються за те, що сприяють кібербулінгу, шантажу та експлуатації дітей. Нещодавнє розслідування CBS News виявило сотні таких оголошень на платформі Meta, деякі з яких залишаються видимими, незважаючи на спроби їх видалення.

У зв'язку з цим Meta посилила свої інструменти правозастосування та запровадила нові технології, спрямовані на виявлення та блокування шкідливої реклами, навіть якщо ця реклама не містить явного оголеного змісту, вона може бути ефективно виявлена. Одночасно Meta також ділиться інформацією про загрози з іншими технологічними компаніями.

Крім того, Meta повідомила, що успішно ліквідувала чотири мережі спільних дій, які спеціально займалися такими оголошеннями. Meta продовжує співпрацювати з внутрішніми експертами та зовнішніми партнерами, щоб впоратися з новими технологіями обходу.

На фоні зростання тиску з боку законодавців і дослідників Meta заявила, що залишиться насторожі та вжитиме всіх необхідних заходів для стримування поширення експлуатаційних AI-додатків з метою захисту безпеки користувачів.