Lebih dari 200 organisasi hak anak bersatu mendesak YouTube untuk melarang sepenuhnya masuknya "konten sampah" yang dihasilkan AI ke platform anak-anak

Pesan dari TechFlow, pada 02 April, menurut Fortune, lebih dari 200 organisasi dan pakar hak anak, termasuk American Federation of Teachers dan American Counseling Association, bersama-sama mengirim surat kepada CEO YouTube Neal Mohan serta CEO Google Sundar Pichai, menuntut platform tersebut melarang sepenuhnya “video sampah” berkwalitas rendah yang dihasilkan oleh AI (AI slop) muncul di YouTube Kids.

Surat bersama ini diprakarsai oleh organisasi hak anak Fairplay. Penulis buku The Anxious Generation Jonathan Haidt dan beberapa akademisi ternama lainnya juga ikut menandatangani. Dalam surat tersebut, disebutkan bahwa konten video yang diproduksi AI secara massal membanjiri platform YouTube Kids. Video-video tersebut berbiaya pembuatan rendah, isinya konyol atau tidak bermakna, tetapi didesain oleh algoritma agar terus menarik perhatian dan “membajak” perhatian anak-anak. Investigasi Fairplay menemukan bahwa pendapatan tahunan dari kanal-kanal AI sampah teratas yang menargetkan anak-anak lebih dari 4.250.000 dolar AS, sementara pada video di YouTube Kids yang menargetkan anak-anak di bawah 8 tahun, hanya sekitar 5% yang termasuk konten berkualitas tinggi.

Rachel Franz, pemimpin proyek Fairplay, menyatakan bahwa konten yang dihasilkan AI akan memutarbalikkan kenyataan, menciptakan kekacauan, dan memengaruhi perkembangan kognitif anak-anak terhadap dunia. Selain itu, algoritma platform terus merekomendasikan konten semacam ini kepada pengguna yang masih muda, sehingga hampir mustahil untuk menghindarinya. Aliansi ini mengajukan beberapa tuntutan reformasi struktural, termasuk: melarang total konten yang dihasilkan AI di YouTube Kids, memberi label yang jelas pada seluruh platform untuk video yang dihasilkan AI, melarang algoritma merekomendasikan konten AI kepada pengguna di bawah 18 tahun, menyediakan sakelar konten AI untuk orang tua yang secara default dalam keadaan nonaktif, serta menghentikan investasi terhadap program konten AI yang ditujukan untuk anak-anak (seperti studio hiburan anak Animaj yang didukung oleh Google AI Futures Fund).

Juru bicara YouTube menanggapi bahwa platform tersebut memiliki standar ketat untuk konten YouTube Kids, telah membatasi konten yang dihasilkan AI pada sejumlah kecil kanal berkualitas tinggi, dan sedang mengembangkan fitur tag AI khusus, namun tidak memberikan jadwal peluncuran yang spesifik. Sebelumnya, CEO YouTube Neal Mohan dalam surat publik tahunan telah mencantumkan “mengelola konten sampah AI” sebagai salah satu prioritas utama.