Mais de 200 organizações de direitos das crianças uniram-se para exigir que o YouTube proíba totalmente a entrada de "conteúdo lixo" gerado por IA na plataforma infantil

Notícia da Deep Tide TechFlow, a 02 de abril, segundo a Fortune: mais de 200 organizações e especialistas de defesa dos direitos das crianças, incluindo a National Education Association (associação de professores dos EUA) e a American Consulting Association, enviaram uma carta conjunta ao CEO do YouTube, Neal Mohan, e ao CEO da Google, Sundar Pichai, exigindo que a plataforma proíba de forma abrangente os “lixo-vídeos” (AI slop) de baixa qualidade gerados por IA de aparecerem no YouTube Kids.

A carta conjunta foi liderada pela organização de defesa dos direitos das crianças Fairplay, e contou com a participação de académicos reconhecidos como Jonathan Haidt, autor de “The Anxious Generation”. No texto, é referido que uma grande quantidade de conteúdos em vídeo produzidos em massa por IA tem vindo a inundar a plataforma YouTube Kids. Esses vídeos têm custos de produção baixos, conteúdos absurdos ou sem qualquer sentido, mas foram concebidos por algoritmos para continuarem a captar a atenção e a “sequestrá-la” das crianças. A investigação da Fairplay apurou que, para conteúdos de topo sobre lixo gerado por IA dirigido a crianças, as receitas anuais ultrapassam os 4,25 milhões de dólares, enquanto nos vídeos do YouTube Kids dirigidos a crianças com menos de 8 anos apenas cerca de 5% pertencem a conteúdos de elevada qualidade.

Rachel Franz, responsável do projecto Fairplay, afirmou que os conteúdos gerados por IA distorcem a realidade, criam confusão e prejudicam o desenvolvimento da perceção das crianças sobre o mundo, e que os algoritmos da plataforma continuam a recomendar este tipo de conteúdos a utilizadores mais novos, tornando-os praticamente inevitáveis. A coligação apresentou várias exigências de reforma estrutural, incluindo: proibir de forma abrangente conteúdos gerados por IA no YouTube Kids, identificar claramente em toda a plataforma os vídeos gerados por IA, impedir que algoritmos recomendem conteúdos gerados por IA a utilizadores com menos de 18 anos, disponibilizar um selector de conteúdos de IA para pais (predefinido como desligado) e cessar o investimento em projectos de conteúdos gerados por IA dirigidos a crianças (como o estúdio de entretenimento infantil Animaj, apoiado pelo Google AI Futures Fund).

Um porta-voz do YouTube respondeu que a plataforma tem padrões rigorosos para os conteúdos do YouTube Kids, tendo limitado os conteúdos gerados por IA a um pequeno número de canais de elevada qualidade, e que está a desenvolver uma funcionalidade específica de etiquetas de IA, embora não tenha fornecido um calendário concreto para lançamento. O CEO do YouTube, Neal Mohan, já tinha incluído “gerir o lixo gerado por IA” como uma das principais prioridades numa carta pública anual.