Plus de 200 organisations de défense des droits de l'enfant demandent conjointement à YouTube d'interdire totalement l'entrée de "contenus indésirables" générés par IA sur les plateformes destinées aux enfants

Message de Deep Tide TechFlow, le 02 avril, selon Fortune : plus de 200 organisations et experts de la défense des droits de l’enfant, dont la Fédération américaine des enseignants et l’Association américaine de consulting, ont signé une lettre conjointe adressée au PDG de YouTube Neal Mohan et au PDG de Google Sundar Pichai, leur demandant d’interdire intégralement sur YouTube Kids les « vidéos poubelles » (AI slop) de faible qualité générées par l’IA.

Cette lettre conjointe a été initiée et menée par l’organisation Fairplay. Des universitaires renommés, dont l’auteur de « La génération anxieuse » Jonathan Haidt, y ont également apposé leur signature. La lettre indique qu’une grande quantité de contenus vidéo produits en masse par l’IA envahit la plateforme YouTube Kids. Ces vidéos, peu coûteuses à produire, sont absurdes ou dénuées de sens, mais leur conception s’appuie sur des algorithmes destinés à continuer à attirer l’attention des enfants et à « détourner » celle-ci. Une enquête de Fairplay révèle que les chaînes principales d’« AI garbage » destinées aux enfants génèrent plus de 4,25 millions de dollars de revenus annuels, tandis que sur YouTube Kids, parmi les vidéos destinées aux enfants de moins de 8 ans, seules environ 5 % relèvent de contenus de haute qualité.

Rachel Franz, responsable du projet Fairplay, a déclaré que les contenus générés par l’IA déforment la réalité, créent de la confusion et affectent le développement cognitif des enfants quant au monde. De plus, les algorithmes de la plateforme recommandent continuellement ce type de contenus aux utilisateurs plus jeunes, rendant leur évitement presque impossible. L’alliance formule plusieurs exigences de réformes structurelles, notamment : interdire intégralement les contenus générés par l’IA sur YouTube Kids ; apposer clairement la mention « vidéos générées par l’IA » sur l’ensemble de la plateforme ; interdire aux algorithmes de recommander des contenus générés par l’IA aux utilisateurs de moins de 18 ans ; proposer un interrupteur pour les contenus IA des parents, désactivé par défaut ; et cesser les investissements dans des projets de contenus IA destinés aux enfants (tels que le studio de divertissement pour enfants Animaj, soutenu par le Google AI Futures Fund).

Un porte-parole de YouTube répond que la plateforme applique des normes strictes aux contenus de YouTube Kids. Elle a déjà limité les contenus générés par l’IA à un petit nombre de chaînes de haute qualité et travaille à développer une fonctionnalité d’étiquetage dédiée aux contenus IA, sans toutefois fournir de calendrier d’arrivée précis. Le PDG de YouTube, Neal Mohan, avait auparavant inscrit « gérer les contenus poubelles générés par l’IA » parmi les priorités de sa lettre publique annuelle.