Los grupos de defensa instan a YouTube a proteger a los niños de los videos de 'basura de IA'

Los grupos de defensa y los expertos condenaron a YouTube por ofrecer videos de inteligencia artificial de baja calidad a su público más vulnerable: los niños.

En una carta al CEO de YouTube Neal Mohan y a Sundar Pichai, el CEO de la empresa matriz de YouTube, Google, el grupo de defensa de los derechos de los niños Fairplay expresa “seria preocupación” por la propagación de videos generados por IA tanto en YouTube como en YouTube Kids. La carta, que fue enviada el miércoles por la mañana, está firmada por más de 200 organizaciones y expertos individuales, como psiquiatras infantiles y educadores.

“Esto ’ AI slop ’ perjudica el desarrollo de los niños al distorsionar su sentido de la realidad, abrumar sus procesos de aprendizaje y secuestrar su atención, extendiendo así el tiempo en línea y desplazando las actividades fuera de línea necesarias para su desarrollo saludable”, dice la carta. “Estos daños son especialmente graves para los niños pequeños.” La carta pide a YouTube que etiquete claramente todo el contenido generado por IA y que prohíba cualquier contenido generado por IA en YouTube Kids. También proponen impedir que los videos generados por IA se recomienden a usuarios menores de 18 años e implementar una opción para que los padres desactiven el contenido generado por IA incluso si su hijo lo busca.

La carta está firmada por 135 organizaciones, incluida la American Federation of Teachers y la American Counseling Association, y por alrededor de 100 expertos individuales como el autor de “The Anxious Generation” Jonathan Haidt. La carta forma parte de una campaña más amplia de Fairplay que también incluye una petición.

                        Historias relacionadas
                    
                

        
    
    
    
    







    
        

                
                    



    
        


  




    




    




    

        
    
    
    

        

                
            

    


    

    





    
        

            
            
            Yahoo recurre a un motor de respuestas impulsado por IA, Scout, para volver a sus orígenes en la búsqueda en línea
            

    

  

    

    
    







    
    
        
        
    
    
        

            5 MIN DE LECTURA

            La llegada de la IA complica las metas climáticas de Big Tech, y algunos temen que esté fijando más combustibles fósiles
        

    

  

    

    
    







    
    
        
        
    
    
        

            6 MIN DE LECTURA

12

            La IA está dando malos consejos para halagar a sus usuarios, según un nuevo estudio sobre los peligros de los chatbots demasiado complacientes
        

    

  

    

    
    







    
    
        
        
    
    
        

            6 MIN DE LECTURA

42

                    Mucho de este contenido generado por IA va a toda velocidad, con colores brillantes, música animada y títulos de cebo que funcionan para captar la atención de los jóvenes espectadores, detalla la carta. Ha crecido un movimiento en línea contra el contenido generado por IA, especialmente cuando parece o se siente de baja calidad o se inclina hacia el significado sin sentido de “ brainrot.”

El portavoz Boot Bullwinkle dijo en un comunicado que YouTube tiene “altos estándares para el contenido en YouTube Kids, incluida la limitación del contenido generado por IA en la aplicación a un conjunto pequeño de canales de alta calidad”.

“También ofrecemos a los padres la opción de bloquear canales. En todo YouTube, priorizamos la transparencia cuando se trata de contenido de IA, etiquetando el contenido de nuestras propias herramientas de IA y exigiendo que los creadores divulguen el contenido realista generado por IA”, dijo Bullwinkle. “Siempre estamos evolucionando nuestro enfoque para mantenernos al día a medida que evoluciona el ecosistema”.

La política actual de YouTube con respecto al contenido generado por IA exige a los creadores que divulguen cuando el contenido que sea “realista” esté hecho con medios alterados o sintéticos, incluida la IA generativa. Los creadores no tienen que divulgar cuando se utiliza IA generativa para crear contenido que claramente es poco realista, incluidos los videos animados y los que incluyen efectos especiales.

YouTube dijo que está trabajando activamente en desarrollar etiquetas para YouTube Kids.

En su carta, Fairplay sostiene que la divulgación voluntaria y lo que considera una definición “extremadamente limitada” de contenido alterado y sintético significan que los niños aún ven una avalancha de videos generados por IA que no están etiquetados como tal. También argumentan que muchos niños que ven videos de YouTube aún no pueden leer ni comprender algo como una divulgación de IA. Eso deja a los niños “para que se las arreglen por sí mismos o a que sus padres jueguen al whack-a-mole”, dice la carta.

La campaña de Fairplay llega poco después de que Google’s AI Futures Fund invirtiera $1 millón en Animaj, un estudio de animación con IA que crea videos para niños y que, según Bloomberg, atrae cifras de audiencia sorprendentemente altas.

La campaña sigue a un veredicto histórico en un juicio por adicción en redes sociales, en el que un jurado de California determinó que YouTube diseñó su plataforma para enganchar a los usuarios jóvenes sin preocuparse por su bienestar. En el mismo caso también se encontró a Meta responsable en los mismos cargos que YouTube.

“Empujar ‘AI slop’ a niños pequeños es solo otra prueba más de cómo YouTube y YouTube Kids están diseñados para maximizar el tiempo de los niños en línea —incluidos los bebés—. La ‘AI slop’ hipnotiza a los niños pequeños, dificultando que se desconecten de sus pantallas y pasen a actividades esenciales como jugar, dormir e interactuar socialmente”, dijo Rachel Franz, directora del programa Young Children Thrive Offline de Fairplay, en un comunicado. “Además, el algoritmo de YouTube hace imposible que los niños eviten la ‘AI slop’.”

A principios de este año, el director de YouTube Mohan enumeró “gestionar AI slop” como una de las prioridades de la compañía para 2026. En una publicación de blog de enero, escribió que la empresa estaba “construyendo activamente sobre nuestros sistemas establecidos que han sido muy exitosos para combatir el spam y el clickbait, y reducir la propagación de contenido repetitivo y de baja calidad”.