Các nhóm vận động kêu gọi YouTube bảo vệ trẻ em khỏi các video 'rác AI'

Các nhóm vận động và các chuyên gia đã lên án YouTube vì đã cung cấp những video được tạo ra bằng trí tuệ nhân tạo chất lượng thấp cho nhóm đối tượng dễ bị tổn thương nhất của họ: trẻ em.

Trong một bức thư gửi CEO YouTube Neal Mohan và Sundar Pichai, CEO công ty mẹ của YouTube là Google, tổ chức vận động trẻ em Fairplay cho biết họ bày tỏ “mối quan ngại nghiêm trọng” về sự lan truyền của các video do AI tạo ra trên cả YouTube và YouTube Kids. Bức thư, được gửi vào sáng thứ Tư, đã được ký bởi hơn 200 tổ chức và các chuyên gia cá nhân như bác sĩ tâm thần nhi và các nhà giáo dục.

“’ AI slop ’ này gây hại cho sự phát triển của trẻ em bằng cách làm méo mó cảm nhận của các em về thực tại, lấn át các quá trình học tập của các em và chiếm đoạt sự chú ý của các em, từ đó kéo dài thời gian trực tuyến và đẩy lùi các hoạt động ngoại tuyến cần thiết cho sự phát triển lành mạnh của các em,” bức thư viết. “Những tác hại này đặc biệt nghiêm trọng đối với trẻ nhỏ.” Bức thư kêu gọi YouTube phải gắn nhãn rõ ràng cho tất cả nội dung do AI tạo ra và cấm mọi nội dung do AI tạo ra trên YouTube Kids. Họ cũng đề xuất chặn các video do AI tạo ra không được đề xuất cho người dùng dưới 18 tuổi và triển khai một tùy chọn để phụ huynh tắt nội dung do AI tạo ra ngay cả khi con của họ tìm kiếm nội dung đó.

Bức thư được ký bởi 135 tổ chức, bao gồm American Federation of Teachers và American Counseling Association, cùng khoảng 100 chuyên gia cá nhân như tác giả “The Anxious Generation” Jonathan Haidt. Bức thư là một phần của chiến dịch lớn hơn từ Fairplay, vốn cũng bao gồm một bản kiến nghị.

                        Các câu chuyện liên quan

            Yahoo chuyển sang công cụ trả lời được hỗ trợ bởi AI Scout để đưa công ty trở lại cội rễ trong tìm kiếm trực tuyến
        

    

  

    

    
    







    
    
        
        
        
        
		

            5 PHÚT ĐỌC

            Sự xuất hiện của AI làm phức tạp các mục tiêu khí hậu của Big Tech, và một số lo ngại rằng nó đang khóa chặt thêm nhiên liệu hóa thạch
        

    

  

    

    
    







    
    
        
        
        
        
		

            6 PHÚT ĐỌC

            AI đang đưa ra lời khuyên sai để nịnh người dùng của mình, theo một nghiên cứu mới về những nguy hiểm của chatbot “đồng thuận quá mức”
        

    

  

    

    
    







    
    
        
        
        
        
		

            6 PHÚT ĐỌC

42

Much of this AI-generated content is fast-paced with bright colors, lively music and clickbait titles that work to grab the attention of young viewers, the letter outlines. There has been a growing movement online against AI-generated content, particularly when it looks or feels low quality or leans into the meaninglessness of “ brainrot.”

Phát ngôn viên Boot Bullwinkle cho biết trong một tuyên bố rằng YouTube có “tiêu chuẩn cao đối với nội dung trên YouTube Kids, bao gồm việc giới hạn nội dung do AI tạo ra trong ứng dụng chỉ ở một nhóm nhỏ gồm các kênh chất lượng cao.”

“Chúng tôi cũng cung cấp cho phụ huynh tùy chọn chặn các kênh. Trên toàn YouTube, chúng tôi ưu tiên tính minh bạch khi nói đến nội dung do AI, gắn nhãn nội dung từ các công cụ AI của chính chúng tôi và yêu cầu những người sáng tạo phải công bố thông tin về nội dung AI có tính hiện thực,” Bullwinkle nói. “Chúng tôi luôn không ngừng hoàn thiện cách tiếp cận để theo kịp những thay đổi của hệ sinh thái.”

Chính sách hiện tại của YouTube về nội dung do AI tạo ra yêu cầu các nhà sáng tạo phải công bố khi nội dung có tính “thực tế” được tạo bằng phương tiện đã bị chỉnh sửa hoặc tổng hợp, bao gồm AI tạo sinh. Các nhà sáng tạo không được yêu cầu công bố khi AI tạo sinh được dùng để tạo ra nội dung rõ ràng là không thực tế, bao gồm các video hoạt hình và những video có hiệu ứng đặc biệt.

YouTube cho biết họ đang tích cực phát triển các nhãn cho YouTube Kids.

Trong bức thư của mình, Fairplay lập luận rằng chính sách công bố tự nguyện và định nghĩa mà họ cho là “cực kỳ giới hạn” về nội dung đã bị chỉnh sửa và tổng hợp có nghĩa là trẻ em vẫn nhìn thấy một “đợt lũ” các video do AI tạo ra mà không được gắn nhãn như vậy. Họ cũng cho rằng nhiều trẻ em xem video trên YouTube vẫn chưa đủ khả năng đọc hoặc hiểu được một thứ như phần công bố về AI. Điều đó khiến trẻ em “phải tự xoay xở hoặc để cha mẹ chơi trò đánh đố bắt bẻ,” bức thư viết.

Chiến dịch của Fairplay diễn ra không lâu sau khi Quỹ AI Futures của Google đã đầu tư 1 triệu USD vào Animaj, một studio hoạt hình AI tạo ra video cho trẻ em và theo Bloomberg đã thu hút những con số lượng xem cực kỳ cao.

Chiến dịch này diễn ra sau một phán quyết mang tính bước ngoặt trong một phiên tòa về nghiện mạng xã hội, nơi một bồi thẩm đoàn ở California kết luận rằng YouTube đã thiết kế nền tảng của mình để thu hút người dùng trẻ tuổi mà không quan tâm đến sức khỏe của họ. Meta cũng bị tuyên là phải chịu trách nhiệm theo các cáo buộc tương tự như YouTube trong cùng vụ việc.

“Việc đẩy ‘AI slop’ cho trẻ nhỏ chỉ là một minh chứng nữa về cách YouTube và YouTube Kids được thiết kế nhằm tối đa hóa thời gian trực tuyến của trẻ em — bao gồm cả trẻ sơ sinh. AI slop thôi miên trẻ nhỏ, khiến các em khó có thể rời màn hình để chuyển sang những hoạt động thiết yếu như vui chơi, ngủ nghỉ và tương tác xã hội,” Rachel Franz, giám đốc chương trình Young Children Thrive Offline của Fairplay, cho biết trong một tuyên bố. “Hơn nữa, thuật toán của YouTube khiến không thể để trẻ em tránh ‘AI slop’.”

Đầu năm nay, người đứng đầu YouTube Mohan đã liệt kê “quản lý AI slop” là một trong những ưu tiên của công ty cho năm 2026. Trong một bài blog đăng vào tháng Một, ông viết rằng công ty đang “tích cực xây dựng dựa trên những hệ thống đã được thiết lập và tỏ ra rất thành công của chúng tôi trong việc chống lại spam và clickbait, đồng thời giảm sự lan truyền của nội dung chất lượng thấp, lặp đi lặp lại.”