O “jogo da vida e da morte” da IA no YouTube: o CEO tomou uma decisão ousada

Como deve a maior plataforma mundial de vídeos lidar com a vaga iminente de conteúdos gerados por inteligência artificial (IA), ao mesmo tempo que aproveita a IA para amplificar a criatividade humana que, inicialmente, sustentou a ascensão da plataforma? O CEO Neal Mohan está a tentar encontrar um equilíbrio entre as duas coisas.

Numa sala de reuniões na sede do YouTube em São Bruno, Califórnia, Neal Mohan não pôde evitar rir-se. Uma semana antes, a OpenAI anunciou, sem aviso, o encerramento da sua popular ferramenta de geração de vídeos curtos com IA, Sora. O produto era visto como um padrão no setor de vídeo com IA e como uma direção futura para a indústria, tendo inclusive recebido um investimento de 1 mil milhões de dólares da Disney; o seu encerramento súbito foi como uma bomba a explodir em cadeia por todo o setor de IA. Quando lhe perguntaram sobre o assunto, Mohan disse à Forbes: “Ai, para ser sincero, como toda a gente, fiquei extremamente surpreendido quando soube.”

O YouTube é, sem contestação, o líder global dos vídeos online, com 2,7 mil milhões de utilizadores, apoiado por uma das maiores e mais influentes empresas de IA do mundo: a Google. Para o YouTube, que procura oportunidades num panorama de IA em rápida mudança, o encerramento da Sora pela primeira concorrente, a OpenAI, é, de certa forma, uma boa notícia. Por um lado, o mercado tem menos um concorrente: as Shorts do YouTube, lançadas em abril, colocaram no terreno ferramentas para rivalizar com as funções que fizeram a Sora em destaque, permitindo aos utilizadores gerar as suas próprias personagens digitais virtuais; por outro lado, o caso soa como um alerta, sugerindo que o vídeo com IA, do fabrico ao armazenamento e à partilha, tem riscos escondidos em todo o processo.

Há mais de uma década, o YouTube tem enfrentado vários problemas difíceis, como as acusações de exacerbar ideias extremistas dos utilizadores e de prejudicar a saúde mental. Mas os desafios trazidos pela IA são totalmente diferentes: reescrevem por completo o ecossistema da plataforma, desde a forma de criação de conteúdos até às escolhas dos utilizadores para ver conteúdos. Mohan não subestimou o impacto dessa mudança: “É uma transformação paradigmática profunda; esta tecnologia vai mudar drasticamente a forma como a indústria opera atualmente.”

A explosão da tecnologia de IA traz, de forma mais direta, uma mudança: o aumento explosivo do volume de conteúdos, gerando mais receitas para o YouTube, que tem um volume anual de 60 mil milhões de dólares.

A IA reduz bastante o patamar para os criadores produzirem, corta custos de produção e dá origem a novas ideias de criação e perspetivas comerciais. Os vídeos tutoriais são uma componente central do YouTube; hoje, basta inserir algumas palavras-passe simples para gerar. A publicidade é a principal fonte de receitas do YouTube; e a IA também permite que os marketeers criem anúncios com muito mais eficiência e com custos significativamente mais baixos. Um relatório divulgado em janeiro pela empresa de pesquisa de mercado Omdia mostra que o total de vídeos existentes no YouTube é de cerca de 29 mil milhões; o boom de vídeos e shorts gerados por IA tem impulsionado continuamente o crescimento acelerado da quantidade de conteúdos.

Ao mesmo tempo, a IA permite que os publicadores de spam publiquem mensagens em massa com uma eficiência surpreendente.

A ameaça dos conteúdos de deepfake já se tornou um problema. No ano passado surgiu um vídeo sintetizado por IA em que o CEO da Nvidia, Huang Renxun, aparece a promover um esquema de fraude com criptomoedas enquanto faz um discurso principal — e, no YouTube, a contagem de visualizações desse vídeo chegou a ultrapassar até a imagem do original da conferência real. Uma plataforma de edição de vídeo, a Kapwing, publicou em novembro passado um relatório que refere que o YouTube está a enfrentar um problema de saturação com conteúdos de IA de baixa qualidade. O relatório estima que, nos conteúdos recomendados pelo algoritmo de shorts aos novos utilizadores, mais de dois em cada três sejam gerados por IA. Em resposta a este relatório, um porta-voz do YouTube publicou uma declaração: “Este relatório isolado e não verificado não reflete de forma real a totalidade do conteúdo da plataforma. Quando os novos utilizadores se registam pela primeira vez, a plataforma mostra-lhes uma variedade de conteúdos para ajudar os utilizadores a descobrir os seus interesses, de modo a ajustar o fluxo de recomendações subsequente.” A Forbes fez também um teste próprio: com uma conta experiente que acompanha há muito tempo, reproduziu 200 vídeos de YouTube Shorts de forma contínua e verificou que 17,5% eram conteúdos gerados por IA.

Se a plataforma permitisse a proliferação de vídeos com IA de baixa qualidade, os espetadores acabariam por perder o interesse. Com a entrada em massa de conteúdos com IA no YouTube, a plataforma parece caminhar sobre uma corda bamba perigosa: precisa de encontrar um equilíbrio — por um lado, aproveitar a IA para produzir continuamente conteúdos, o que é a base para a sobrevivência da plataforma; por outro, manter a autenticidade e o toque real de originais feitos por humanos, que é precisamente essa autenticidade que ajudou o YouTube a subir rapidamente para o estatuto de plataforma popular global após o seu lançamento em 2005. Mohan afirmou: “Ninguém quer ver um ecrã cheio de conteúdos maus, mal feitos e gerados por IA. Mas ao mesmo tempo, queremos que as ideias criativas de alta qualidade que a IA pode gerar se destaquem plenamente. Isto não é nada fácil.”

Um ex-executivo do YouTube disse, de forma otimista, que os conteúdos de IA de baixa qualidade acabam por não conseguir dominar o mainstream: “Na prática, o mecanismo do algoritmo é bastante perfeito. Os espectadores votam com o tempo de visualização; o conteúdo de baixa qualidade, no final, terá o peso da recomendação reduzido. Só que a curto prazo a plataforma vai estar cheia de material mal feito.”

Atualmente, o YouTube está numa fase constrangedora, entre o avanço e a recusa.

Ao mesmo tempo que tenta limpar conteúdos de IA de baixa qualidade, a plataforma precisa de atender também à sensibilidade de vários grupos envolvidos, incluindo criadores, empresas discográficas e instituições mediáticas que sustentam a maioria dos conteúdos populares da plataforma. Muitos criadores humanos manifestam forte resistência à tecnologia de IA: as suas obras originais são extraídas e usadas sem autorização para treinar modelos de IA, e os detentores de direitos também protestam com veemência. O ex-executivo citado acima disse: “Se alguém criar um vídeo de IA com uma covers de Mickey Mouse a uma canção do Kendrick Lamar, algo que a Disney não quer ver, como é que se resolve isso?”

Mohan compreende bem esse cenário complexo. Disse: “O YouTube tem de lidar com a indústria criativa todos os dias, alinhar interesses com criadores de Hollywood, empresas discográficas, grandes grupos mediáticos, etc. Isso também nos dá uma perspetiva única quando consideramos o impacto da IA na indústria criativa. O núcleo do YouTube é sempre a criação humana.”

Desde o início, o YouTube dependia de criação feita por humanos. O primeiro vídeo publicado na plataforma em 2005 foi um pequeno filme um pouco tosco, gravado por Jawed Karim, um dos cofundadores, no Zoológico de San Diego, no qual ele explica a utilidade do tromba do elefante. Karim e Steve Chen e Chad Hurley fundaram a plataforma juntos; os três inicialmente tinham a ideia de transformá-la numa plataforma de encontros, mas essa visão depressa falhou. Ainda assim, os três perceberam que simplificar o carregamento e a gestão de vídeos criava uma oportunidade enorme. Um ano depois de fundarem a empresa, venderam-na à Google por 1,65 mil milhões de dólares. Desde então, o YouTube desenvolveu-se até se tornar o segundo website com mais visitas do mundo, logo a seguir ao site oficial da Google.

Uma das principais soluções do YouTube para lidar com conteúdos de IA de baixa qualidade é a etiquetagem de conteúdos.

Muitos vídeos gerados por IA têm um nível de realismo tão elevado que o público em geral tem dificuldade em distinguir se se trata de gravações reais. Em maio, o YouTube anunciou que vai destacar com uma etiqueta os vídeos “modificados substancialmente por IA ou totalmente gerados por IA”. Mesmo que os criadores não declarem ativamente, as ferramentas internas de deteção da plataforma conseguem identificar esse tipo de conteúdo e colocá-lo com uma etiqueta.

A plataforma também tem de regular proativamente violações de direitos autorais e conteúdos nocivos — um dilema antigo para o YouTube. Em 2017, a secção infantil do YouTube Kids foi muito criticada: inúmeros conteúdos perturbadores de má qualidade conseguiam contornar os mecanismos de segurança e aparecer na plataforma. Exemplos incluíam cenas de morte de personagens do Patrulha Pata, ou personagens do canal infantil Nickelodeon a surgirem num clube de strip. A tecnologia de IA vai reduzir muito o patamar para produzir vídeos desse tipo, encurtar o ciclo de produção e já há criadores a produzir, de forma específica, conteúdos de IA de baixa qualidade para bebés e crianças pequenas.

Apesar do YouTube se esforçar por proteger o núcleo da criação humana, continua a lançar várias novas funcionalidades de IA. No ano passado, o leitor passou a ter um botão “Perguntar”, permitindo aos utilizadores fazer perguntas sobre o conteúdo de um vídeo — por exemplo, com base num vídeo com um guia de viagem pela Croácia, planear o itinerário de visitas a locais. Há ainda uma nova ferramenta de pesquisa que permite aos utilizadores introduzir palavras-passe como se estivessem a operar um grande modelo de linguagem para procurar vídeos; assemelha-se ao modo de pesquisa com IA da Google.

No entanto, uma funcionalidade de avatares virtuais com IA semelhante à ferramenta Cameo da Sora tem maior probabilidade de mudar, em essência, o núcleo do YouTube.

A funcionalidade foi lançada em abril como um complemento para os YouTube Shorts, que é o produto de vídeos curtos da plataforma, criado para competir com o TikTok e o Instagram Reels. Os utilizadores podem gerar as suas próprias versões digitais, fazendo com que os avatares atuem em vídeos gerados por IA. Alguns exemplos: ganhar o Super Bowl, caminhar pela Lua ou tocar um bandolim dentro do seu próprio programa de televisão por cabo dos anos 80, totalmente fictício. O YouTube não revelou dados específicos sobre a popularidade da funcionalidade.

Atualmente, a funcionalidade de avatares virtuais com IA do YouTube ainda tem várias limitações: os utilizadores só podem gerar e controlar os seus próprios avatares digitais. Mas esta funcionalidade antecipa que, no futuro, a plataforma se irá encher de retratos de pessoas virtuais em cenários fictícios. Em paralelo, o YouTube desenvolveu uma ferramenta de segurança chamada Likeness Detection (Deteção de Semelhança), para fazer rondas e corrigir conteúdos na plataforma em que avatares virtuais de IA são gerados sem autorização. Para ativar esta função, os utilizadores têm de enviar fotografias suas; o YouTube compromete-se a não usar essas fotos para qualquer outro fim.

O YouTube também lançou várias funcionalidades de IA para criadores. Uma delas chama-se Ask Studio: é uma ferramenta que liga ao grande modelo Gemini da Google e pode ajudar os criadores a escrever scripts de vídeo, fazer dobragem de voz, traduzir áudio e, ainda, conceber ideias para os vídeos seguintes. Embora estas ferramentas possam apoiar o processo criativo, muitos criadores receiam que a IA enfraqueça a sua posição como sujeito central da arte.

Brooke Ashley Hall, que gere um canal familiar, “The Beverly Halls”, tem 11,4 milhões de subscritores. Disse que, muito provavelmente, não vai usar substitutos digitais com IA no canal: “Gosto de estar em frente à câmara e falar com o público; não sei se a IA consegue recriar essa interação real.” Ainda assim, ela usa frequentemente imagens geradas por IA dela própria e da sua família para capas dos vídeos, e também recorre à IA para analisar dados nos bastidores, pensar em temas e produzir efeitos especiais. “A IA não vai substituir todos os criadores; vai apenas eliminar os criadores que não estão dispostos a usar ferramentas de IA de forma ativa.”

Entretanto, os criadores estão a ponderar qual papel querem assumir no treino de modelos de IA.

Os criadores podem escolher, de forma autónoma, autorizar o YouTube a disponibilizar os seus vídeos para laboratórios de IA e outros terceiros para treinar novos modelos; também têm o direito de recusar essa autorização. Mesmo que aceitem, não receberão qualquer remuneração. O YouTube disse que, por agora, cerca de 1 milhão de criadores optaram por autorizar. Por outro lado, a instituição de investigação Social Blade estima que existem cerca de 69 milhões de criadores ativos na plataforma; assim, a percentagem dos que autorizam continua a ser pequena (o YouTube recusa revelar o número total de criadores na plataforma). Muitos criadores publicaram no Reddit que várias empresas de IA os contactaram proativamente para negociar a autorização de materiais dos vídeos; algumas empresas chegaram a apresentar propostas de até 100 mil dólares por mil horas de vídeo. Hall disse que “considerou” autorizar os seus materiais e que “muito provavelmente” concordaria: “Como autores de conteúdo, nós deveríamos receber a compensação correspondente.”

O ex-executivo do YouTube mencionado acima disse que a plataforma está a equilibrar oportunidades e riscos trazidos pela IA, mas que, no fim, qualquer coisa capaz de produzir mais conteúdo e aumentar o tempo de visualização dos utilizadores acabará por prevalecer. “No fim de contas, como plataforma, o YouTube liga mais ao tempo de visualização”, disse o ex-executivo. “O que é exatamente o conteúdo que os utilizadores estão a ver, a plataforma não se importa assim tanto; no máximo fica em segundo plano.”