Kelompok advokasi mendesak YouTube untuk melindungi anak-anak dari video ‘AI slop’

Kelompok advokasi dan para ahli mengecam YouTube karena menyajikan video-video kecerdasan buatan berkualitas rendah kepada audiens paling rentan: anak-anak.

Dalam sebuah surat kepada CEO YouTube Neal Mohan dan Sundar Pichai, CEO perusahaan induk YouTube Google, kelompok advokasi anak Fairplay menyampaikan “keprihatinan serius” tentang penyebaran video yang dihasilkan AI di YouTube dan YouTube Kids. Surat tersebut, yang dikirim pada Rabu pagi, ditandatangani oleh lebih dari 200 organisasi dan pakar individu seperti psikiater anak dan pendidik.

“ ’ AI slop ’ ini membahayakan perkembangan anak-anak dengan mendistorsi rasa realitas mereka, membebani proses belajar mereka, dan membajak perhatian mereka, sehingga memperpanjang waktu online serta menggeser aktivitas luring yang diperlukan untuk perkembangan yang sehat,” bunyi surat itu. “Dampak buruk ini sangat akut bagi anak-anak kecil.” Surat tersebut mendesak YouTube untuk memberi label dengan jelas semua konten yang dihasilkan AI dan melarang konten apa pun yang dihasilkan AI di YouTube Kids. Mereka juga mengusulkan agar video-video yang dihasilkan AI tidak direkomendasikan kepada pengguna di bawah 18 tahun serta menerapkan opsi bagi orang tua untuk mematikan konten yang dihasilkan AI, bahkan jika anak mereka mencarinya.

Surat itu ditandatangani oleh 135 organisasi termasuk American Federation of Teachers dan American Counseling Association, serta sekitar 100 pakar individu seperti penulis “The Anxious Generation” Jonathan Haidt. Surat tersebut merupakan bagian dari kampanye yang lebih besar dari Fairplay yang juga mencakup petisi.

                        Kisah Terkait

            Yahoo beralih ke mesin jawaban berbasis AI Scout untuk membawanya kembali ke akarnya dalam pencarian online
        

    

  

    

    
    







    
    
        
        
    
    
        

            5 MENIT DIBACA

            Kehadiran AI mempersulit target iklim Big Tech, dan sebagian khawatir ini mengunci lebih banyak bahan bakar fosil
        

    

  

    

    
    







    
    
        
        
    
    
        

            6 MENIT DIBACA

12

            AI memberi saran buruk untuk memuaskan penggunanya, kata studi baru tentang bahaya chatbot yang terlalu menyenangkan
        

    

  

    

    
    







    
    
        
        
    
    
        

            6 MENIT DIBACA

42

Much of this AI-generated content is fast-paced with bright colors, lively music and clickbait titles that work to grab the attention of young viewers, the letter outlines. There has been a growing movement online against AI-generated content, particularly when it looks or feels low quality or leans into the meaninglessness of “ brainrot.”

Juru bicara Boot Bullwinkle mengatakan dalam sebuah pernyataan bahwa YouTube memiliki “standar tinggi untuk konten di YouTube Kids, termasuk membatasi konten yang dihasilkan AI di aplikasi menjadi sejumlah kecil kanal berkualitas tinggi.”

“Kami juga menyediakan opsi bagi orang tua untuk memblokir kanal. Di seluruh YouTube, kami mengutamakan transparansi terkait konten AI, memberi label konten dari alat AI kami sendiri, dan mewajibkan kreator untuk mengungkapkan konten AI yang realistis,” kata Bullwinkle. “Kami selalu terus mengembangkan pendekatan kami agar tetap terkini seiring ekosistem berkembang.”

Kebijakan YouTube saat ini mengenai konten yang dihasilkan AI mengharuskan kreator mengungkapkan ketika konten yang “realistis” dibuat dengan media yang dimodifikasi atau sintetis, termasuk generative AI. Kreator tidak diwajibkan untuk mengungkapkan ketika generative AI digunakan untuk membuat konten yang jelas tidak realistis, termasuk video animasi dan yang disertai efek khusus.

YouTube mengatakan pihaknya sedang aktif mengembangkan label untuk YouTube Kids.

Dalam suratnya, Fairplay berpendapat bahwa kebijakan pengungkapan sukarela dan definisi yang mereka anggap “sangat terbatas” tentang konten yang dimodifikasi dan sintetis berarti anak-anak tetap melihat banjir video yang dihasilkan AI yang tidak diberi label seperti itu. Mereka juga berpendapat bahwa banyak anak yang menonton video YouTube belum mampu membaca atau memahami sesuatu seperti pengungkapan AI. Itu membuat anak-anak “bergantung pada diri mereka sendiri atau orang tua mereka untuk bermain whack-a-mole,” bunyi surat itu.

Kampanye Fairplay muncul tak lama setelah Google’s AI Futures Fund menginvestasikan $1 juta ke Animaj, sebuah studio animasi AI yang membuat video untuk anak-anak dan menarik angka penayangan yang sangat tinggi, menurut Bloomberg.

Kampanye ini menyusul putusan bersejarah dalam persidangan kecanduan media sosial di mana juri California menemukan bahwa YouTube merancang platformnya untuk mengait pengguna muda tanpa kepedulian terhadap kesejahteraan mereka. Meta juga dinyatakan bertanggung jawab atas tuduhan yang sama seperti YouTube dalam kasus yang sama.

“Mendorong AI slop pada anak-anak muda hanyalah bukti lain tentang bagaimana YouTube dan YouTube Kids dirancang untuk memaksimalkan waktu anak-anak secara online — termasuk bayi. AI slop menghipnotis anak-anak muda, membuat mereka sulit untuk lepas dari layar dan beralih ke aktivitas penting seperti bermain, tidur, dan interaksi sosial,” kata Rachel Franz, direktur program Fairplay Young Children Thrive Offline, dalam sebuah pernyataan. “Lebih dari itu, algoritme YouTube membuatnya mustahil bagi anak-anak untuk menghindari AI slop.”

Awal tahun ini, kepala YouTube Mohan mencantumkan “mengelola AI slop” sebagai salah satu prioritas perusahaan untuk 2026. Dalam sebuah posting blog Januari, ia menulis bahwa perusahaan “secara aktif membangun sistem yang sudah mapan kami yang sangat berhasil dalam memerangi spam dan clickbait, serta mengurangi penyebaran konten berkualitas rendah yang berulang.”