Meta gần đây đã đệ đơn kiện một công ty ở Hong Kong có tên là Joy Timeline HK Ltd., công ty đã phát triển một ứng dụng có tên là CrushAI, gây ra nhiều tranh cãi. Ứng dụng này sử dụng trí tuệ nhân tạo để tạo ra hình ảnh tình dục mà không có sự đồng ý, khiến nhiều người chỉ trích. Vụ việc xảy ra trên nền tảng mạng xã hội của Meta, thông qua quảng cáo trên Facebook và Instagram, và những quảng cáo này thường không phù hợp với chính sách quảng cáo của Meta, dẫn đến việc bị gỡ bỏ thường xuyên.

Meta cho biết, Joy Timeline đã nhiều lần cố gắng vượt qua hệ thống kiểm duyệt quảng cáo, điều này cuối cùng đã thúc đẩy Meta thực hiện hành động pháp lý, cố gắng cấm vĩnh viễn công ty này quảng cáo trên nền tảng của mình. Meta trong tuyên bố đã nhấn mạnh thái độ nghiêm túc trong việc xử lý các hành vi lạm dụng này theo luật pháp, và cho biết sẽ tiếp tục bảo vệ sự an toàn của nền tảng bằng các biện pháp pháp lý. "Vụ kiện này phản ánh thái độ nghiêm túc của chúng tôi đối với các hành vi lạm dụng nền tảng, cũng như quyết tâm bảo vệ cộng đồng của chúng tôi."

CrushAI và những ứng dụng "nudify" tương tự đã khiến nhiều người dùng lo lắng, vì những ứng dụng này thường số hóa hình ảnh khỏa thân, đặc biệt là đối với phụ nữ và người nổi tiếng, hành vi này bị chỉ trích là khuyến khích quấy rối trực tuyến, tống tiền và bóc lột trẻ em. Gần đây, một cuộc điều tra của CBS News đã tiết lộ hàng trăm quảng cáo như vậy trên nền tảng Meta, trong đó một số vẫn có thể thấy được sau khi nỗ lực gỡ bỏ.

Đối với điều này, Meta đã tăng cường các công cụ thực thi của mình, ra mắt công nghệ mới nhằm phát hiện và ngăn chặn quảng cáo có hại, ngay cả khi những quảng cáo này không hiển thị nội dung khỏa thân rõ ràng, vẫn có thể nhận diện một cách hiệu quả. Đồng thời, Meta cũng đang chia sẻ thông tin tình báo về mối đe dọa với các công ty công nghệ khác.

Ngoài ra, Meta báo cáo rằng đã thành công trong việc triệt phá bốn mạng lưới hành động phối hợp, những mạng lưới này chuyên hoạt động các quảng cáo như vậy. Meta tiếp tục hợp tác với các chuyên gia nội bộ và các đối tác bên ngoài, nỗ lực ứng phó với các công nghệ vượt qua mới.

Trong bối cảnh áp lực từ các nhà lập pháp và nhà nghiên cứu ngày càng gia tăng, Meta cho biết sẽ giữ vững cảnh giác và thực hiện mọi biện pháp cần thiết để ngăn chặn sự lan truyền của các ứng dụng AI khai thác, nhằm bảo vệ an toàn cho người dùng.