Video AI về phụ nữ da đen gợi cảm bị gỡ khỏi TikTok sau cuộc điều tra của BBC

45 phút trước

Chia sẻLưu

Sharihan Al-AkhrasBBC News tiếng Ả Rập

Chia sẻLưu

Riya Ulan (trái) / Instagram (phải)

Riya Ulan (trái) nhận thấy video của cô đã bị chỉnh sửa để hiển thị một nhân vật kỹ thuật số do AI tạo ra (phải)

TikTok đã cấm 20 tài khoản sau khi BBC làm rõ việc sử dụng các influencer nữ da đen do AI tạo ra để dẫn dụ người dùng đến các trang chứa nội dung khiêu dâm.

Chúng là một phần của xu hướng ngày càng tăng các tài khoản trên Instagram và TikTok bị chỉ trích là mang tính phân biệt chủng tộc, khai thác và gây hiểu lầm do sử dụng các hình mẫu và ngôn ngữ liên quan đến chủng tộc.

BBC và các nhà nghiên cứu từ tạp chí AI độc lập Riddance đã phát hiện hàng chục tài khoản trên hai nền tảng này có các nhân vật kỹ thuật số hoặc avatar nữ da đen mang tính gợi cảm cao.

Các hình ảnh và video này được tạo ra bởi AI nhưng không được ghi rõ, vi phạm rõ ràng các quy định của nền tảng.

Gần như tất cả các tài khoản đều trên Instagram và khoảng một phần ba cũng có phiên bản trên TikTok. Công ty mẹ của Instagram, Meta, cho biết đang điều tra, nhưng không nói rõ đã có hành động nào chưa.

Các avatar thường mặc đồ bơi mỏng hoặc trang phục hở hang khác và được thể hiện với hình dáng cơ thể phóng đại.

Một số có làn da cực kỳ tối màu đã bị chỉnh sửa kỹ thuật số, tạo ra vẻ nhân tạo.

Tên tài khoản bao gồm các từ như “black”, “noir”, “dark” và “ebony”. Một số còn bình luận về nam giới da trắng trong các bài đăng, như “yêu thích đàn ông da trắng” và “tại sao tôi cần một người đàn ông da trắng trong đời”. Nhiều tài khoản theo dõi hoặc thích các tài khoản khác.

BBC, phối hợp cùng các nhà phân tích Jeremy Carrasco và Angel Nulani từ Riddance, đã xác định được 60 tài khoản như vậy, chủ yếu trên Instagram, chứa các liên kết hoặc chuỗi liên kết đến nội dung khiêu dâm trả phí trên các trang web bên thứ ba. Các trang này ghi rõ hình ảnh là do AI tạo ra, nhưng các tài khoản Instagram thì không.

Nghiên cứu cũng phát hiện nhiều tài khoản khác trên cả Instagram và TikTok có các avatar do AI tạo ra tương tự nhưng không liên kết đến nội dung trả phí.

‘Tôi đã tức giận’

Một trong những tài khoản bị TikTok xóa - mặc dù vẫn hoạt động trên Instagram tại thời điểm công bố - đã gây thêm phẫn nộ khi lấy trộm video của người thật.

Nó được giới thiệu như một nhân vật AI nổi bật và đã thu hút ba triệu người theo dõi chỉ trong vài tuần s