Plus de 200 organisations de défense des droits de l'enfant demandent conjointement à YouTube d'interdire totalement l'entrée de "contenus indésirables" générés par IA sur les plateformes destinées aux enfants

Message de Deep Tide TechFlow, le 02 avril, selon Fortune, plus de 200 organisations et experts de défense des droits de l’enfant, dont la National Education Association (NEA) et l’American Counseling Association, ont adressé une lettre conjointe au PDG de YouTube Neal Mohan et au PDG de Google Sundar Pichai, demandant une interdiction complète des « vidéos poubelles » (AI slop) générées par IA de mauvaise qualité sur YouTube Kids.

La lettre conjointe a été lancée et portée par l’organisation Fairplay. L’essayiste de 《L’ère de l’anxiété》 Jonathan Haidt, ainsi que d’autres universitaires renommés, ont également signé. Dans la lettre, il est indiqué que de nombreux contenus vidéo produits en masse par IA saturent la plateforme YouTube Kids ; ces vidéos ont des coûts de production faibles, des contenus absurdes ou dépourvus de sens, mais sont conçues par les algorithmes pour continuer à capter l’attention des enfants et « détourner » celle-ci. L’enquête de Fairplay révèle que les chaînes principales de contenus d’IA poubelles destinés aux enfants génèrent un revenu annuel supérieur à 4,25 millions de dollars, tandis que sur YouTube Kids, parmi les vidéos destinées aux enfants de moins de 8 ans, seulement environ 5% relèvent de contenus de haute qualité.

Rachel Franz, responsable du programme Fairplay, a déclaré que les contenus générés par IA déforment la réalité, provoquent du chaos et affectent le développement de la perception du monde chez les enfants, et que les algorithmes de la plateforme continuent de recommander ce type de contenus aux utilisateurs plus jeunes, rendant leur exposition presque inévitable. L’alliance formule plusieurs exigences de réformes structurelles, notamment : interdire complètement les contenus générés par IA sur YouTube Kids ; indiquer clairement sur l’ensemble de la plateforme les vidéos générées par IA ; interdire la recommandation de contenus d’IA aux utilisateurs de moins de 18 ans ; fournir un interrupteur parents d’« activités IA » désactivé par défaut ; et cesser les investissements dans des projets de contenus d’IA destinés aux enfants (comme le studio de divertissement pour enfants Animaj soutenu par le Google AI Futures Fund).

Un porte-parole de YouTube répond que la plateforme applique des standards stricts pour les contenus de YouTube Kids, que les contenus générés par IA ont été limités à un petit nombre de chaînes de haute qualité, et qu’elle développe une fonctionnalité dédiée d’étiquetage « IA », sans toutefois fournir de calendrier précis de mise en ligne. Le PDG de YouTube Neal Mohan avait déjà classé, dans une lettre publique annuelle, « la gestion des contenus poubelles d’IA » parmi les priorités principales.