Trong App Store và Google Play đã chặn hàng chục ứng dụng AI để "cởi đồ" của người dùng - ForkLog: tiền điện tử, AI, siêu việt, tương lai

# Trên App Store và Google Play đã chặn hàng chục ứng dụng AI để “lột xác” người dùng

Trong các cửa hàng ứng dụng của Apple và Google có hàng chục ứng dụng nudify cho phép chụp ảnh người và sử dụng trí tuệ nhân tạo để tạo ra hình ảnh khỏa thân của họ. Các chuyên gia của TTP đã thông báo về điều này.

Trong quá trình kiểm tra, các nhà phân tích phát hiện ra 55 ứng dụng trên Google Play và 47 trên App Store. Họ đã liên hệ với các đại diện của các tập đoàn để yêu cầu xóa các dịch vụ này. Apple đã loại bỏ 28 công cụ nudify khỏi cửa hàng và cảnh báo các nhà phát triển về khả năng bị xóa sản phẩm của họ trong trường hợp vi phạm quy định.

Hai ứng dụng sau đó đã được khôi phục sau khi khắc phục tất cả các vấn đề.

Đại diện của Google cho biết, tập đoàn đã tạm dừng hoạt động của một số chương trình. Công ty đang tiến hành điều tra sau khi nhận được các báo cáo tương tự.

“Cả hai công ty đều tuyên bố rằng họ quan tâm đến an toàn của người dùng, nhưng họ lại đăng tải trong các cửa hàng của mình các ứng dụng có thể biến một bức ảnh vô hại của phụ nữ thành hình ảnh xúc phạm mang tính chất tình dục,” các chuyên gia của TTP đã viết trong báo cáo của họ.

Họ đã phát hiện ra các ứng dụng bằng cách tìm kiếm các thuật ngữ “nudify” và “undress”, và thử nghiệm chúng bằng hình ảnh AI. Trong khuôn khổ thử nghiệm, họ phân tích hai loại dịch vụ:

• Những dịch vụ sử dụng trí tuệ nhân tạo để tạo hình ảnh các cô gái không mặc quần áo;
• Các dịch vụ khác chồng mặt khuôn mặt người lên các bức ảnh khỏa thân.

“Rõ ràng, đây không chỉ đơn thuần là các ứng dụng để ‘thay đổi quần áo’. Chúng rõ ràng được thiết kế để tình dục hóa con người mà không có sự đồng ý của họ,” Giám đốc TTP, bà Katie Pol, cho biết.

Các nhà phân tích cho biết, 14 chương trình được tạo ra tại Trung Quốc.

“Các luật của Trung Quốc về lưu trữ dữ liệu có nghĩa là chính phủ có quyền truy cập vào thông tin của bất kỳ công ty nào ở bất kỳ nơi nào trong nước. Vì vậy, nếu ai đó tạo ra các deepfake với hình ảnh của bạn, thì giờ đây chúng đã nằm trong tay các cơ quan chức năng,” bà Pol bổ sung.

Trí tuệ nhân tạo gây hại

Trí tuệ nhân tạo đã làm cho việc “lột xác” các cô gái và tạo ra nội dung deepfake porn dễ dàng hơn bao giờ hết. Vào tháng 1, chatbot Grok đã gặp scandal vì tính năng tương tự. Sau đó, công ty đã tắt chức năng tạo hình ảnh khỏa thân của người thật.

Vào tháng 8 năm 2024, văn phòng công tố viên thành phố San Francisco, ông David Chiu, đã đệ đơn kiện các chủ sở hữu của 16 trang web lớn nhất thế giới, cho phép “lột xác” phụ nữ và trẻ em gái trong ảnh bằng AI mà không có sự đồng ý của họ.

Trong tài liệu, đề cập đến việc vi phạm các luật của nhà nước và liên bang về deepfake porn, nội dung trả thù và các tài liệu liên quan đến bạo lực tình dục trẻ em.

“AI tạo sinh có tiềm năng lớn, nhưng như với tất cả các công nghệ mới, luôn tồn tại hậu quả không lường trước và những tội phạm cố tình lợi dụng công nghệ mới này. Chúng ta cần hiểu rõ rằng đây không phải là đổi mới — đây là bạo lực tình dục,” ông Chiu nói.

Các trang web liên quan trong vụ án cung cấp giao diện thuận tiện để tải ảnh lên nhằm tạo ra các phiên bản porn chân thực. Chúng gần như không phân biệt được với hình ảnh thật, được sử dụng để tống tiền, đe dọa, uy hiếp và hạ thấp nhân phẩm, theo tuyên bố.

Nhắc lại, vào tháng 9 năm 2024, Microsoft đã công bố hợp tác với tổ chức StopNCII để chống lại nội dung deepfake porn trong công cụ tìm kiếm Bing.