Meta недавно подала в суд на компанию из Гонконга под названием Joy Timeline HK Ltd., которая разработала приложение под названием CrushAI, вызвавшее значительные споры. Это приложение использует искусственный интеллект для создания сексуализированных изображений без согласия, что вызвало критику со стороны многих людей. Ситуация развивалась на платформе Meta, через рекламу на Facebook и Instagram, которая часто не соответствует рекламной политике Meta, что приводит к частому удалению.

Meta заявила, что Joy Timeline многократно пыталась обойти систему проверки рекламы, что в конечном итоге побудило Meta предпринять юридические действия с целью永久ного запрета этой компании на размещение рекламы на своей платформе. Meta в своем заявлении подчеркнула серьезный подход к законному решению этих злоупотреблений и заявила, что будет продолжать защищать безопасность платформы с помощью юридических мер. "Этот иск отражает нашу строгую позицию по поводу злоупотреблений на платформе и нашу решимость защищать сообщество."

CrushAI и подобные приложения "nudify" вызывают у многих пользователей беспокойство, поскольку эти приложения обычно цифровым образом обнажают изображения людей, особенно женщин и знаменитостей. Эти действия подвергаются критике за содействие интернет- домогательствам, шантажу и эксплуатации детей. Недавнее расследование CBS News выявило сотни таких объявлений на платформе Meta, некоторые из которых все еще видны, несмотря на усилия по их удалению.

В связи с этим Meta усилила свои инструменты для обеспечения правопорядка и представила новые технологии, направленные на обнаружение и предотвращение вредоносной рекламы, которая может быть эффективно идентифицирована, даже если она не демонстрирует откровенные материалы. В то же время Meta также делится разведывательной информацией о угрозах с другими технологическими компаниями.

Кроме того, Meta сообщила, что успешно ликвидировала четыре сети совместных действий, которые специализировались на таких рекламных объявлениях. Meta продолжает сотрудничать с внутренними экспертами и внешними партнёрами, чтобы противостоять новым технологиям обхода.

На фоне нарастающего давления со стороны законодателей и исследователей Meta заявила, что будет сохранять бдительность и предпримет все необходимые меры для сдерживания распространения эксплуататорских AI-приложений в целях защиты безопасности пользователей.