Les groupes de défense appellent YouTube à protéger les enfants contre les vidéos de « bêtises IA »

Des groupes de plaidoyer et des experts ont condamné YouTube pour avoir proposé des vidéos d’intelligence artificielle de faible qualité à son public le plus vulnérable : les enfants.

Dans une lettre adressée au PDG de YouTube Neal Mohan et à Sundar Pichai, PDG de la société mère de YouTube, Google, l’association de défense des enfants Fairplay exprime des « inquiétudes sérieuses » concernant la diffusion de vidéos générées par IA à la fois sur YouTube et sur YouTube Kids. La lettre, envoyée mercredi matin, a été signée par plus de 200 organisations et experts individuels, notamment des pédopsychiatres et des éducateurs.

« Cette “purée d’IA” nuit au développement des enfants en faussant leur perception de la réalité, en submergeant leurs processus d’apprentissage et en capturant leur attention, prolongeant ainsi le temps passé en ligne et déplaçant des activités hors ligne nécessaires à leur développement sain », indique la lettre. « Ces effets nocifs sont particulièrement aigus pour les jeunes enfants. » La lettre demande à YouTube d’étiqueter clairement l’ensemble du contenu généré par IA et d’interdire tout contenu généré par IA sur YouTube Kids. Ils proposent également d’empêcher les vidéos générées par IA d’être recommandées aux utilisateurs de moins de 18 ans et de mettre en place une option permettant aux parents de désactiver le contenu généré par IA, même si leur enfant le recherche.

La lettre est signée par 135 organisations, dont la Fédération américaine des enseignants et l’American Counseling Association, ainsi que par environ 100 experts individuels comme l’auteur de « The Anxious Generation », Jonathan Haidt. La lettre s’inscrit dans une campagne plus large de Fairplay qui comprend également une pétition.

                        Histoires liées

            Yahoo se tourne vers un moteur de réponse propulsé par l’IA, Scout, pour revenir à ses racines dans la recherche en ligne
        

    

  

    

    
    







    
    
        
        
    
    
        

            5 MIN DE LECTURE

            L’arrivée de l’IA complique les objectifs climatiques de Big Tech, et certains s’inquiètent du fait qu’elle verrouille davantage les combustibles fossiles
        

    

  

    

    
    







    
    
        
        
    
    
        

            6 MIN DE LECTURE

12

            L’IA donne de mauvaises recommandations pour flatter ses utilisateurs, selon une nouvelle étude sur les dangers des chatbots trop complaisants
        

    

  

    

    
    







    
    
        
        
    
    
        

            6 MIN DE LECTURE

42

Much of this content généré par IA évolue à un rythme rapide, avec des couleurs vives, une musique entraînante et des titres accrocheurs conçus pour capter l’attention des jeunes spectateurs, indique la lettre. Une tendance se dessine depuis quelque temps en ligne contre les contenus générés par IA, notamment lorsqu’ils semblent de mauvaise qualité ou donnent l’impression de se tourner vers le sens vide de « brainrot ».

Le porte-parole Boot Bullwinkle a déclaré dans un communiqué que YouTube a des « normes élevées en matière de contenu sur YouTube Kids, notamment en limitant les contenus générés par IA dans l’application à un petit ensemble de chaînes de haute qualité ».

« Nous offrons aussi aux parents la possibilité de bloquer des chaînes. Sur l’ensemble de YouTube, nous privilégions la transparence concernant le contenu lié à l’IA, en étiquetant le contenu issu de nos propres outils d’IA, et en demandant aux créateurs de divulguer du contenu réaliste généré par IA », a déclaré Bullwinkle. « Nous faisons toujours évoluer notre approche pour rester à jour, à mesure que l’écosystème évolue. »

La politique actuelle de YouTube concernant le contenu généré par IA exige des créateurs qu’ils divulguent lorsque des contenus « réalistes » sont produits à l’aide de médias altérés ou synthétiques, y compris l’IA générative. Les créateurs ne sont pas tenus de divulguer lorsque l’IA générative est utilisée pour créer des contenus clairement irréalistes, notamment des vidéos animées et ceux comportant des effets spéciaux.

YouTube a indiqué qu’il travaille activement au développement d’étiquettes pour YouTube Kids.

Dans sa lettre, Fairplay fait valoir que la politique de divulgation volontaire et la définition qu’il juge « extrêmement limitée » des contenus altérés et synthétiques signifient que les enfants voient toujours un déluge de vidéos générées par IA qui ne sont pas étiquetées comme telles. Ils soutiennent aussi que beaucoup d’enfants qui regardent des vidéos YouTube ne sont pas encore capables de lire ou de comprendre quelque chose comme une divulgation liée à l’IA. Cela laisse aux enfants « le soin de se débrouiller, ou à leurs parents de jouer au whack-a-mole », indique la lettre.

La campagne de Fairplay intervient peu après que le Google AI Futures Fund a investi 1 million de dollars dans Animaj, un studio d’animation par IA qui produit des vidéos pour les enfants et qui attire, selon Bloomberg, des chiffres d’audience étonnamment élevés.

La campagne fait suite à un verdict marquant rendu dans un procès sur l’addiction aux réseaux sociaux, dans lequel un jury californien a conclu que YouTube avait conçu sa plateforme pour accrocher les jeunes utilisateurs sans se soucier de leur bien-être. Meta a également été déclarée responsable sur les mêmes chefs que YouTube dans la même affaire.

« Pousser de la purée d’IA sur de jeunes enfants est une nouvelle preuve de la façon dont YouTube et YouTube Kids sont conçus pour maximiser le temps passé en ligne par les enfants — y compris les bébés. La purée d’IA hypnotise les jeunes enfants, rendant difficile pour eux de quitter leurs écrans et de passer à des activités essentielles comme le jeu, le sommeil et les interactions sociales », a déclaré Rachel Franz, directrice du programme Young Children Thrive Offline de Fairplay, dans un communiqué. « De plus, l’algorithme de YouTube rend impossible pour les enfants d’éviter la purée d’IA. »

Plus tôt cette année, le responsable de YouTube, Mohan, a listé « gérer la purée d’IA » comme l’une des priorités de l’entreprise pour 2026. Dans un billet de blog de janvier, il a écrit que l’entreprise « construisait activement sur nos systèmes établis, qui ont été très efficaces pour lutter contre le spam et les contenus clickbait, et pour réduire la diffusion de contenus de faible qualité et répétitifs ».