Громадські організації закликають YouTube захистити дітей від відео з «штучним інтелектом»

Групи з адвокації та експерти засудили YouTube за те, що він показує своїй найбільш вразливій аудиторії — дітям — низькоякісні відео, згенеровані штучним інтелектом.

У листі до генерального директора YouTube Ніла Мохана та Сундара Пічаї, генерального директора Google — материнської компанії YouTube, дитяча правозахисна група Fairplay висловлює “серйозну занепокоєність” щодо поширення відео, згенерованих ШІ, як на YouTube, так і на YouTube Kids. Лист, який було надіслано в середу вранці, підписали понад 200 організацій і окремих експертів, зокрема дитячі психіатри та педагоги.

“Це ’ AI slop ’ шкодить розвитку дітей, спотворюючи їхнє відчуття реальності, перевантажуючи їхні процеси навчання та перехоплюючи увагу, тим самим подовжуючи час онлайн і витісняючи офлайн-активності, необхідні для їхнього здорового розвитку”, — йдеться в листі. “Ці шкоди особливо гострі для маленьких дітей”. У листі YouTube закликають чітко маркувати весь контент, згенерований ШІ, і заборонити будь-який контент, згенерований ШІ, на YouTube Kids. Вони також пропонують заборонити відео, згенеровані ШІ, щоб їх рекомендували користувачам віком до 18 років, а також запровадити опцію для батьків вимкнути контент, згенерований ШІ, навіть якщо їхня дитина шукає його.

Лист підписали 135 організацій, зокрема Американська федерація вчителів і Американська асоціація консультантів, а також близько 100 індивідуальних експертів, таких як автор “The Anxious Generation” Джонатан Гайдт. Лист є частиною більш масштабної кампанії Fairplay, яка також включає петицію.

                        Пов’язані історії

            Yahoo звертається до Scout — двигуна відповіді, керованого ШІ, — щоб повернутися до своїх витоків у пошуку
        

    

  

    

    
    







    
    
        
        
    
    
        

            5 ХВИЛИН ЧИТАННЯ

            Поява ШІ ускладнює кліматичні цілі Big Tech, і дехто побоюється, що це закріплює ще більше викопного палива
        

    

  

    

    
    







    
    
        
        
    
    
        

            6 ХВИЛИН ЧИТАННЯ

12

            ШІ дає погані поради, щоб догодити своїм користувачам, каже нове дослідження про небезпеки надто поступливих чатботів
        

    

  

    

    
    







    
    
        
        
    
    
        

            6 ХВИЛИН ЧИТАННЯ

42

Much of this AI-generated content is fast-paced with bright colors, lively music and clickbait titles that work to grab the attention of young viewers, the letter outlines. There has been a growing movement online against AI-generated content, particularly when it looks or feels low quality or leans into the meaninglessness of “ brainrot.”

Порцесник Бут Булвінкл сказав у заяві, що YouTube має “високі стандарти для контенту в YouTube Kids, зокрема обмежує контент, згенерований ШІ, у застосунку невеликим набором каналів високої якості”.

“Ми також надаємо батькам можливість блокувати канали. На всьому YouTube ми надаємо пріоритет прозорості щодо контенту зі ШІ, маркуючи контент із наших власних інструментів ШІ, а також вимагаємо від творців розкривати інформацію про реалістичний контент, згенерований ШІ,” — сказав Булвінкл. “Ми постійно вдосконалюємо наш підхід, щоб залишатися в курсі подій, адже розвивається екосистема”.

Поточна політика YouTube щодо контенту, згенерованого ШІ, вимагає від творців розкривати, коли контент, що є “реалістичним”, створено з використанням змінених або синтетичних медіа, включно з генеративним ШІ. Від творців не вимагається розкривати, коли генеративний ШІ використано для створення контенту, який явно нереалістичний, включно з анімованими відео та тими, що мають спеціальні ефекти.

YouTube заявив, що активно працює над розробкою міток для YouTube Kids.

У своєму листі Fairplay стверджує, що добровільна політика розкриття інформації та те, що вони вважають “надзвичайно обмеженим” визначенням зміненого та синтетичного контенту означає, що діти все одно бачать потік відео, згенерованих ШІ, які не позначені як такі. Вони також стверджують, що багато дітей, які дивляться відео на YouTube, ще не здатні читати або розуміти щось на кшталт розкриття інформації про ШІ. Тож діти “мають покладатися на себе або на своїх батьків, щоб грати в ’вгадай-лови’”, — йдеться в листі.

Кампанія Fairplay з’являється незабаром після того, як AI Futures Fund компанії Google інвестував $1 млн в Animaj — студію анімації на основі ШІ, яка створює відео для дітей і, за даними Bloomberg, забезпечує приголомшливо високі показники переглядів.

Кампанія відбувається після знакового вироку в судовому процесі щодо залежності від соціальних мереж, де каліфорнійське журі дійшло висновку, що YouTube розробив свою платформу, щоб “зачепити” молодих користувачів, не турбуючись про їхнє благополуччя. Також у цій самій справі Meta було визнано відповідальною за ті самі звинувачення, що й YouTube.

“Виштовхування AI slop на маленьких дітей — це ще одне свідчення того, як YouTube і YouTube Kids створені, щоб максимізувати час дітей онлайн — включно з немовлятами. AI slop гіпнотизує маленьких дітей, через що їм важко зійти з екранів і перейти до таких необхідних занять, як гра, сон і соціальна взаємодія,” — сказала Рейчел Франц, директорка програми Fairplay Young Children Thrive Offline, у заяві. “Крім того, алгоритм YouTube робить неможливим для дітей уникнути AI slop.”

На початку цього року керівник YouTube Мохан перерахував “управління AI slop” як одну з пріоритетних задач компанії на 2026 рік. У січневому дописі в блозі він написав, що компанія “активно розбудовує наші вже створені системи, які були дуже успішними в боротьбі зі спамом і клікбейтом, а також у зменшенні поширення низькоякісного, повторюваного контенту.”