Gần đây đã xảy ra một sự việc khá đáng lo ngại trên mạng xã hội đáng để hiểu rõ hơn. Các deepfake sex của Taylor Swift đã lan truyền rộng rãi trên các nền tảng như X, Instagram và Threads, tạo ra một cuộc khủng hoảng về nội dung giả mạo mà các nền tảng chưa từng thấy ở quy mô này.

Quy mô của nó thật ấn tượng: chỉ một hình ảnh được chia sẻ trên X đã đạt 47 triệu lượt xem trước khi tài khoản bị đình chỉ. Điều này cho thấy cách các nội dung này lan truyền nhanh như thế nào khi không ai ngăn chặn kịp thời. X đã quyết định hành động mạnh mẽ hơn và trực tiếp chặn các tìm kiếm về 'Taylor Swift' và 'IA', hiển thị thông báo 'Đã xảy ra sự cố' khi ai đó cố gắng tìm kiếm. Giám đốc kinh doanh của X thừa nhận rằng đây là biện pháp tạm thời nhằm 'ưu tiên an toàn'.

Instagram và Threads chọn hướng đi khác. Họ cho phép tìm kiếm tên nghệ sĩ, nhưng nếu tìm 'Taylor Swift IA' sẽ xuất hiện cảnh báo: 'Bạn có chắc chắn muốn tiếp tục không? Thuật ngữ bạn tìm kiếm đôi khi liên quan đến các hoạt động của tổ chức và cá nhân nguy hiểm.' Vấn đề là các bộ lọc này khá dễ vượt qua bằng cách thay đổi thứ tự các từ.

Điều thú vị là đây không phải là vấn đề mới, chỉ là giờ đây nó rõ ràng hơn. Microsoft và Google đã phát hành các công cụ miễn phí cho phép tạo ra hình ảnh chân thực bằng văn bản sử dụng AI sinh tạo. Satya Nadella, CEO của Microsoft, mô tả các deepfake là 'đáng báo động và kinh khủng', kêu gọi ngành công nghiệp hành động nhanh chóng để xây dựng các hàng rào bảo vệ. Liên đoàn diễn viên Mỹ (SAG-AFTRA) đã lên tiếng trực tiếp: đánh giá các hình ảnh giả của Taylor Swift là 'gây rối, có hại và cực kỳ đáng lo ngại', yêu cầu hình sự hóa việc phân phối nội dung này mà không có sự đồng ý.

Thực tế là các deepfake ảnh hưởng không cân xứng đến phụ nữ. Nhóm Reality Defender đã theo dõi hơn hai mươi hình ảnh độc đáo do AI tạo ra của Taylor Swift, nhiều trong số đó có nội dung bạo lực hoặc tình dục. Từ năm 2019, các nghiên cứu cho thấy phần lớn các nạn nhân của deepfake rõ ràng là các nữ diễn viên Hollywood và ca sĩ K-pop. Công nghệ đã trở nên quá dễ tiếp cận đến mức bất kỳ ai cũng có thể tạo ra nội dung này với các công cụ cơ bản.

Taylor Swift có thể đang xem xét các hành động pháp lý chống lại các trang web đã đăng tải những hình ảnh này. Trong khi đó, Nhà Trắng đã yêu cầu Quốc hội xây dựng luật pháp cụ thể. Những gì đã xảy ra với Taylor Swift chỉ là phần nổi của tảng băng chìm: MrBeast, Tom Hanks và các người nổi tiếng khác cũng đã trở thành nạn nhân. Vấn đề thực sự là làm thế nào để ngăn chặn deepfake mà không kiểm duyệt công nghệ hợp pháp.