Hơn 200 tổ chức bảo vệ quyền trẻ em đồng loạt yêu cầu YouTube cấm hoàn toàn nội dung "rác" do AI tạo ra trên nền tảng dành cho trẻ em

Deep Tide TechFlow tin nhắn, ngày 02 tháng 04, theo báo Fortune, hơn 200 tổ chức và chuyên gia vì quyền trẻ em, bao gồm Liên đoàn giáo viên Hoa Kỳ và Hiệp hội Tư vấn Hoa Kỳ, đã đồng loạt gửi thư đến CEO YouTube Neal Mohan và CEO Google Sundar Pichai, yêu cầu nền tảng này cấm toàn diện “video rác” tạo bởi AI (AI slop) xuất hiện trên YouTube Kids.

Thư liên danh do tổ chức vì quyền trẻ em Fairplay đứng ra khởi xướng. Các học giả nổi tiếng như tác giả của cuốn “The Anxious Generation” Jonathan Haidt cũng tham gia ký tên. Trong thư, họ nêu rõ rằng rất nhiều nội dung video do AI sản xuất hàng loạt đang tràn ngập nền tảng YouTube Kids; những video này có chi phí sản xuất thấp, nội dung vô lý hoặc vô nghĩa, nhưng lại được thiết kế bởi thuật toán để liên tục thu hút và “chiếm quyền” sự chú ý của trẻ em. Khảo sát của Fairplay cho thấy, các kênh nội dung AI rác hàng đầu nhắm đến trẻ em có doanh thu hằng năm vượt 4,25 triệu USD, trong khi ở YouTube Kids, trong các video nhắm tới trẻ em dưới 8 tuổi, chỉ khoảng 5% thuộc nhóm nội dung chất lượng cao.

Ông Rachel Franz, người phụ trách dự án của Fairplay, cho biết nội dung do AI tạo có thể làm méo mó thực tế, tạo ra sự hỗn loạn, ảnh hưởng đến quá trình phát triển nhận thức của trẻ em về thế giới, và các thuật toán của nền tảng tiếp tục đề xuất loại nội dung này cho người dùng nhỏ tuổi, khiến gần như không thể tránh khỏi việc tiếp xúc. Liên minh này đưa ra nhiều yêu cầu cải cách mang tính cấu trúc, bao gồm: cấm toàn diện nội dung do AI tạo trên YouTube Kids; gắn nhãn rõ ràng các video do AI tạo trên toàn nền tảng; cấm thuật toán đề xuất nội dung do AI cho người dùng dưới 18 tuổi; cung cấp công tắc nội dung do AI dành cho phụ huynh được bật tắt mặc định là tắt; và dừng việc đầu tư cho các dự án nội dung do AI nhắm đến trẻ em (như xưởng phim giải trí dành cho trẻ em Animaj được hỗ trợ bởi Google AI Futures Fund).

Người phát ngôn của YouTube trả lời rằng nền tảng đặt ra các tiêu chuẩn nghiêm ngặt đối với nội dung trên YouTube Kids, đã giới hạn nội dung do AI tạo trong phạm vi các kênh chất lượng cao với số lượng ít, đồng thời đang phát triển tính năng gắn nhãn AI chuyên biệt, nhưng không cung cấp lộ trình thời gian cụ thể để triển khai. CEO YouTube Neal Mohan trước đó trong bức thư công khai thường niên đã liệt kê “quản lý nội dung rác do AI” như một trong những nhiệm vụ ưu tiên hàng đầu.