Más de 200 organizaciones de derechos de la infancia exigen conjuntamente a YouTube que prohíba completamente la entrada de "contenido basura" generado por IA en plataformas infantiles

Deep Tide TechFlow повідомлення, 02 de abril, segundo a Fortune, mais de 200 organizações e especialistas de direitos das crianças, incluindo a American Federation of Teachers e a American Consulting Association, enviaram uma carta conjunta ao CEO do YouTube, Neal Mohan, e ao CEO do Google, Sundar Pichai, exigindo que a plataforma proíba integralmente os “lixos em vídeo” (AI slop) gerados por IA de baixa qualidade de aparecerem no YouTube Kids.

A carta conjunta foi liderada pela organização de direitos das crianças Fairplay. Autores e estudiosos renomados, como Jonathan Haidt, autor de “The Anxious Generation”, também assinaram. Na carta, afirma-se que uma grande quantidade de conteúdos em vídeo produzidos em massa por IA está inundando a plataforma YouTube Kids. Esses vídeos têm custos de produção baixos, conteúdos absurdos ou sem sentido algum, mas são projetados por algoritmos para continuar atraindo e “sequestrando” a atenção das crianças. A Fairplay investigou e descobriu que, nos canais principais de conteúdo lixo em IA voltados para crianças, a receita anual ultrapassa 4,25 milhões de dólares, enquanto, nos vídeos do YouTube Kids voltados para crianças com menos de 8 anos, apenas cerca de 5% são de conteúdo de alta qualidade.

Rachel Franz, responsável pelo projeto Fairplay, afirmou que o conteúdo gerado por IA distorce a realidade, cria confusão e afeta o desenvolvimento cognitivo das crianças sobre o mundo. Além disso, os algoritmos da plataforma continuam recomendando esse tipo de conteúdo para usuários de menor idade, tornando-o quase impossível de evitar o contato. A coalizão apresentou várias exigências de reforma estrutural, incluindo: proibir integralmente conteúdos gerados por IA no YouTube Kids, marcar claramente os vídeos gerados por IA em toda a plataforma, proibir que algoritmos recomendem conteúdo de IA para usuários menores de 18 anos, oferecer um seletor de conteúdo de IA para pais com desligamento padrão e interromper investimentos em projetos de conteúdo de IA voltados para crianças (como o estúdio de entretenimento infantil Animaj, apoiado pelo Google AI Futures Fund).

Um porta-voz do YouTube respondeu dizendo que a plataforma tem padrões rigorosos para o conteúdo do YouTube Kids, que restringiu o conteúdo gerado por IA a um pequeno número de canais de alta qualidade, e que está desenvolvendo um recurso de tags de IA dedicado, mas não forneceu um cronograma específico para o lançamento. O CEO do YouTube, Neal Mohan, já havia listado “gerenciar lixo de IA” como uma das principais tarefas em uma carta pública anual anterior.