A Meta recentemente processou uma empresa de Hong Kong chamada Joy Timeline HK Ltd., que desenvolveu um aplicativo chamado CrushAI, gerando uma controvérsia considerável. Este aplicativo utiliza inteligência artificial para gerar imagens sexualizadas sem consentimento, o que atraiu muitas críticas. O incidente ocorreu na plataforma social da Meta, promovido através de anúncios no Facebook e Instagram, que frequentemente não estavam em conformidade com as políticas de anúncios da Meta, resultando em remoções frequentes.

A Meta afirmou que a Joy Timeline tentou várias vezes contornar o sistema de revisão de anúncios, o que acabou levando a Meta a tomar ações legais na tentativa de proibir permanentemente a empresa de fazer publicidade na sua plataforma. A Meta sublinhou em um comunicado a seriedade com que trata esses abusos e afirmou que continuará a defender a segurança da plataforma por meio de ações legais. "Esta ação judicial reflete a nossa postura rigorosa em relação aos abusos na plataforma e a nossa determinação em proteger a comunidade."

CrushAI e aplicações semelhantes como "nudify" têm deixado muitos utilizadores preocupados, uma vez que estas aplicações costumam digitalizar e desnudar imagens de pessoas, especialmente mulheres e celebridades. Este tipo de comportamento tem sido criticado por fomentar assédio online, extorsão e exploração infantil. Recentemente, uma investigação da CBS News revelou a existência de centenas de anúncios deste tipo na plataforma Meta, alguns dos quais ainda são visíveis mesmo após tentativas de remoção.

Em resposta a isso, a Meta reforçou suas ferramentas de aplicação da lei e lançou novas tecnologias destinadas a detectar e bloquear anúncios nocivos, mesmo que esses anúncios não apresentem conteúdo explícito, podendo ser identificados de forma eficaz. Ao mesmo tempo, a Meta também está compartilhando inteligência de ameaças com outras empresas de tecnologia.

Além disso, a Meta relatou que conseguiu desmantelar quatro redes de ações coordenadas que operavam especificamente esses tipos de anúncios. A Meta continua a colaborar com especialistas internos e parceiros externos para enfrentar novas técnicas de contorno.

Num contexto em que a pressão sobre os legisladores e pesquisadores está a aumentar, a Meta afirmou que irá manter-se vigilante e tomar todas as medidas necessárias para conter a disseminação de aplicações de IA exploratórias, a fim de proteger a segurança dos usuários.