Grupos de defesa pedem ao YouTube que proteja as crianças de vídeos de ‘lixo de IA’

As associações de defesa e os especialistas condenaram o YouTube por disponibilizar à sua audiência mais vulnerável: as crianças, vídeos de baixa qualidade gerados por inteligência artificial.

Numa carta ao CEO do YouTube, Neal Mohan, e a Sundar Pichai, o CEO da empresa-mãe do YouTube, a Google, a associação de defesa das crianças Fairplay manifesta “preocupação séria” com a disseminação de vídeos gerados por IA tanto no YouTube como no YouTube Kids. A carta, enviada na manhã de quarta-feira, foi assinada por mais de 200 organizações e especialistas individuais, como psiquiatras infantis e educadores.

“O ‘lixo de IA’ prejudica o desenvolvimento das crianças ao distorcer o seu sentido da realidade, sobrecarregar os seus processos de aprendizagem e sequestrar a sua atenção, prolongando assim o tempo online e afastando atividades offline necessárias para o seu desenvolvimento saudável”, lê-se na carta. “Estes danos são particularmente graves para crianças pequenas.” A carta apela ao YouTube para identificar claramente todo o conteúdo gerado por IA e banir qualquer conteúdo gerado por IA no YouTube Kids. Também propõem impedir que vídeos gerados por IA sejam recomendados a utilizadores com menos de 18 anos e implementar uma opção para os pais desligarem conteúdos gerados por IA, mesmo que a criança procure isso.

A carta é assinada por 135 organizações, incluindo a American Federation of Teachers e a American Counseling Association, e por cerca de 100 especialistas individuais, como o autor de “The Anxious Generation”, Jonathan Haidt. A carta faz parte de uma campanha mais ampla da Fairplay que também inclui uma petição.

                        Notícias Relacionadas

            O Yahoo recorre a um motor de resposta alimentado por IA, o Scout, para o levar de volta às suas raízes na pesquisa online
        

    

  

    

    
    







    
    
        
        
    
    
        
        
            5 MIN DE LEITURA

            A chegada da IA complica os objetivos climáticos da Big Tech e alguns receiam que a esteja a fixar em mais combustíveis fósseis
        

    

  

    

    
    







    
    
        
        
    
    
        
        
            6 MIN DE LEITURA

            A IA está a dar conselhos maus para lisonjear os seus utilizadores, diz um novo estudo sobre os perigos de chatbots demasiado agradáveis
        

    

  

    

    
    







    
    
        
        
    
    
        
        
            6 MIN DE LEITURA

Mucho deste conteúdo gerado por IA é de ritmo acelerado, com cores vivas, música animada e títulos do tipo clickbait que servem para captar a atenção de jovens espectadores, descreve a carta. Existe um movimento crescente online contra conteúdos gerados por IA, sobretudo quando têm aspeto ou sensação de baixa qualidade ou quando se inclinam para o sem sentido de “brainrot”.

O porta-voz Boot Bullwinkle disse, num comunicado, que o YouTube tem “padrões elevados para o conteúdo no YouTube Kids, incluindo limitar o conteúdo gerado por IA na aplicação a um pequeno conjunto de canais de alta qualidade”.

“Também disponibilizamos aos pais a opção de bloquear canais. Em todo o YouTube, damos prioridade à transparência no que diz respeito ao conteúdo de IA, identificando o conteúdo das nossas próprias ferramentas de IA e exigindo que os criadores divulguem conteúdos realistas gerados por IA”, disse Bullwinkle. “Estamos sempre a evoluir a nossa abordagem para nos mantermos atuais à medida que o ecossistema evolui.”

A política atual do YouTube em relação ao conteúdo gerado por IA exige que os criadores divulguem quando conteúdos “realistas” são feitos com media alterados ou sintéticos, incluindo IA generativa. Os criadores não são obrigados a divulgar quando a IA generativa é usada para criar conteúdos que são claramente pouco realistas, incluindo vídeos animados e aqueles com efeitos especiais.

O YouTube disse que está a trabalhar ativamente no desenvolvimento de etiquetas para o YouTube Kids.

Na sua carta, a Fairplay argumenta que a política de divulgação voluntária e a definição que considera “extremamente limitada” de conteúdo alterado e sintético significam que as crianças continuam a ver uma vaga de vídeos gerados por IA que não são rotulados como tal. Também defendem que muitas crianças que veem vídeos do YouTube ainda não conseguem ler nem compreender algo como uma divulgação de IA. Isso deixa as crianças “por conta própria, ou os seus pais a jogar ao whack-a-mole”, lê-se na carta.

A campanha da Fairplay surge pouco depois de o Google’s AI Futures Fund ter investido $1 milhão na Animaj, um estúdio de animação com IA que cria vídeos para crianças e atrai números de visualização surpreendentemente elevados, segundo a Bloomberg.

A campanha segue-se a uma decisão histórica num julgamento sobre vício em redes sociais, no qual um júri da Califórnia considerou que o YouTube desenhou a sua plataforma para prender utilizadores jovens sem preocupação com o seu bem-estar. A Meta também foi considerada responsável nos mesmos pontos que o YouTube no mesmo caso.

“Enviar lixo de IA para crianças pequenas é apenas mais um testemunho de como o YouTube e o YouTube Kids são concebidos para maximizar o tempo das crianças online — incluindo bebés. O lixo de IA hipnotiza crianças pequenas, tornando difícil para elas largarem os seus ecrãs e passarem para atividades essenciais como brincar, dormir e a interação social”, disse Rachel Franz, diretora do programa Young Children Thrive Offline da Fairplay, num comunicado. “Além disso, o algoritmo do YouTube torna impossível para as crianças evitarem o lixo de IA.”

Mais cedo este ano, o responsável máximo do YouTube, Mohan, listou “gerir o lixo de IA” como uma das prioridades da empresa para 2026. Numa publicação de blogue de janeiro, escreveu que a empresa estava “a construir ativamente sobre os nossos sistemas estabelecidos que têm sido muito bem-sucedidos no combate ao spam e ao clickbait, e na redução da disseminação de conteúdos repetitivos e de baixa qualidade.”