Por Que O Conteúdo Prejudicial Continua A Alcançar Crianças Online E O Que A Publicidade Tem A Ver Com Isso

(MENAFN- The Conversation) As crianças de hoje podem encontrar material prejudicial online com uma facilidade alarmante, incluindo conteúdo violento, sexual e de autoagressão. Embora isso seja frequentemente tratado como uma falha de moderação, a causa mais profunda é económica.

Grande parte da internet é construída com base num modelo de negócio que recompensa a atenção acima de tudo. Em termos simples, os algoritmos que recomendam conteúdo não distinguem de forma significativa entre material útil, neutro e prejudicial. Descritos como “não específicos de tópico”, a sua principal tarefa é manter os utilizadores a assistir, rolar e clicar.

Por quê? Porque a atenção impulsiona a receita de publicidade.

A maioria das plataformas online parece gratuita, mas são em grande parte financiadas através de publicidade. Quanto mais tempo os utilizadores permanecem online, mais anúncios veem e mais valiosos se tornam para os anunciantes. Como resultado, o design da plataforma é moldado pelo que os estudiosos chamam de “economia da atenção” – um sistema em que a atenção humana é o recurso que é comprado e vendido.

A académica de Harvard, Shoshana Zuboff, descreve este modelo como “capitalismo de vigilância”: as plataformas recolhem dados comportamentais, prevêem o que os utilizadores farão a seguir e otimizam os sistemas para influenciar o comportamento de formas que geram lucro.

Isto importa porque estudos mostram consistentemente que conteúdos emocionalmente carregados – materiais que provocam medo, indignação, ansiedade ou choque – geram maior envolvimento. Estudos sobre sistemas de recomendação descobriram que o ranking algorítmico tende a amplificar conteúdos que mantêm os utilizadores emocionalmente ativados, independentemente do seu valor social (ou de outro tipo).

Para os adultos, isto pode distorcer o debate público e a discórdia política. Para as crianças, as consequências podem ser mais graves porque os seus hábitos online e respostas emocionais ainda estão a desenvolver-se. Os jovens são mais sensíveis à comparação social, narrativas perturbadoras e materiais emocionalmente intensos. Quando os sistemas de recomendação detectam que um jovem utilizador pausa, procura ou interage com esse tipo de conteúdo, muitas vezes respondem entregando mais dele.

O resultado é o que os investigadores de mídia descrevem como um ciclo de retroalimentação. Os sinais de envolvimento impulsionam recomendações; as recomendações aumentam a exposição; a exposição aprofunda o envolvimento. Os utilizadores raramente são alvo de uma pessoa. São alvo da otimização.

O debate público muitas vezes assume que a solução é a remoção mais rápida de publicações prejudiciais. A moderação é importante, mas há uma questão mais profunda. O conteúdo prejudicial continua a espalhar-se porque os incentivos subjacentes permanecem inalterados.

Se a receita das plataformas depende da atenção, os sistemas sempre priorizarão conteúdos que a capturam de forma mais eficaz. Remover publicações individuais faz pouco se a lógica algorítmica que promove o envolvimento permanecer intacta.

Isto ajuda a explicar por que as controvérsias em torno dos danos online continuam a surgir, apesar de novas ferramentas e políticas de segurança – e por que as propostas de proibir redes sociais provavelmente não resolverão a causa raiz. Os investigadores na governação de plataformas argumentam cada vez mais que a segurança exige abordar o design do sistema e os incentivos, não apenas conteúdos isolados.

O papel da publicidade – e por que importa agora

A publicidade raramente aparece nas conversas públicas sobre segurança online, mas ela está no centro do ecossistema. A receita de publicidade financia os sistemas de recomendação, as práticas de recolha de dados e as estratégias de otimização do envolvimento.

Isso não significa que os anunciantes pretendam causar dano. Na verdade, muitas marcas desconhecem onde os seus anúncios aparecem dentro de cadeias complexas de publicidade programática. Mas a realidade económica permanece: o envolvimento – incluindo o envolvimento com materiais prejudiciais – gera valor.

A fiscalização está a aumentar. No Reino Unido, os reguladores estão a implementar a Lei de Segurança Online, processos judiciais relacionados com danos nas redes sociais estão a surgir internacionalmente, e os investigadores estão a aceder a documentos internos das plataformas através de litígios. Juntos, estes desenvolvimentos estão a levantar o que há muito se descrevia como uma “caixa preta” em torno das decisões das plataformas.

O ambiente digital não evoluiu naturalmente. Foi construído através de escolhas – técnicas, económicas e políticas – feitas ao longo de décadas. E, como foi projetado, pode ser redesenhado.

A conversa que agora entra em destaque público não se trata apenas de proibir telemóveis ou culpar os jovens utilizadores. Trata-se de incentivos. Que tipos de ambientes online as atuais modelos de negócio recompensam? E que alternativas podem priorizar o bem-estar juntamente com a inovação?

Para quem trabalha dentro das indústrias de publicidade e tecnologia, este momento pode parecer particularmente importante. Uma maior consciência pública significa menos oportunidades para alegar que os sistemas online são demasiado complexos para entender ou influenciar.

Se o objetivo é espaços digitais mais seguros, o debate deve avançar além do conteúdo individual, para as estruturas que determinam por que esse conteúdo se espalha em primeiro lugar. Compreender como a publicidade, os dados e os algoritmos interagem não é um detalhe técnico. É a chave para construir uma internet que proteja as crianças, em vez de lucrar com a sua atenção.