Pourquoi le contenu nuisible continue de atteindre les enfants en ligne et quel rôle joue la publicité

(MENAFN- The Conversation) Aujourd’hui, les enfants peuvent rencontrer facilement du contenu nuisible en ligne, y compris des contenus violents, sexuels ou autodestructeurs. Bien que cela soit souvent considéré comme un échec de modération, la cause profonde est économique.

Une grande partie d’Internet repose sur un modèle commercial qui privilégie l’attention avant tout. En termes simples, les algorithmes de recommandation de contenu ne distinguent pas réellement entre contenu utile, neutre ou nuisible. Qualifiés de « non spécifiques au sujet », leur tâche principale est de maintenir les utilisateurs à regarder, faire défiler et cliquer.

Pourquoi ? Parce que l’attention génère des revenus publicitaires.

La plupart des plateformes en ligne semblent gratuites, mais elles sont en grande partie financées par la publicité. Plus les utilisateurs restent longtemps en ligne, plus ils voient d’annonces et plus elles ont de valeur pour les annonceurs. En conséquence, la conception des plateformes est façonnée par ce que les chercheurs appellent « l’économie de l’attention » – un système dans lequel l’attention humaine est la ressource achetée et vendue.

La chercheuse de Harvard, Shoshana Zuboff, décrit ce modèle comme du « capitalisme de surveillance » : les plateformes collectent des données comportementales, prédisent ce que feront les utilisateurs ensuite, et optimisent leurs systèmes pour influencer le comportement de manière à générer du profit.

Cela importe car les recherches montrent systématiquement que le contenu émotionnellement chargé – qui suscite la peur, la colère, l’anxiété ou le choc – génère un engagement plus élevé. Des études sur les systèmes de recommandation ont révélé que le classement algorithmique tend à amplifier le contenu qui maintient les utilisateurs émotionnellement activés, indépendamment de sa valeur sociale (ou autre).

Pour les adultes, cela peut déformer le débat public et la discourse politique. Pour les enfants, les conséquences peuvent être plus graves car leurs habitudes en ligne et leurs réponses émotionnelles sont encore en développement. Les jeunes sont plus sensibles à la comparaison sociale, aux récits perturbants et au contenu émotionnellement intense. Lorsque les systèmes de recommandation détectent qu’un jeune utilisateur s’arrête, recherche ou interagit avec ce type de contenu, ils répondent souvent en en proposant davantage.

Le résultat est ce que les chercheurs en médias décrivent comme une boucle de rétroaction. Les signaux d’engagement alimentent les recommandations ; les recommandations augmentent l’exposition ; cette exposition approfondit l’engagement. Les utilisateurs ne sont rarement ciblés par une personne, mais par une optimisation.

Le débat public suppose souvent que la solution consiste à supprimer rapidement les publications nuisibles. La modération est importante, mais il existe un problème plus profond. Le contenu nuisible continue de se répandre parce que les incitations sous-jacentes restent inchangées.

Si les revenus des plateformes dépendent de l’attention, les systèmes privilégieront toujours le contenu qui la capte le plus efficacement. Supprimer des publications individuelles ne change pas grand-chose si la logique algorithmique qui favorise l’engagement reste intacte.

Cela explique pourquoi les controverses autour des dangers en ligne resurgissent malgré l’introduction de nouveaux outils et politiques de sécurité – et pourquoi les propositions d’interdiction des réseaux sociaux sont peu susceptibles de traiter la cause profonde. Les chercheurs en gouvernance des plateformes soutiennent de plus en plus que la sécurité nécessite de repenser la conception des systèmes et leurs incitations, pas seulement le contenu individuel.

Le rôle de la publicité – et pourquoi cela importe maintenant

La publicité est rarement évoquée dans les discussions publiques sur la sécurité en ligne, mais elle occupe une place centrale dans l’écosystème. Les revenus publicitaires financent les systèmes de recommandation, la collecte de données et les stratégies d’optimisation de l’engagement.

Cela ne signifie pas que les annonceurs ont l’intention de nuire. En réalité, beaucoup ignorent où leurs publicités apparaissent dans des chaînes complexes de publicité programmatique. Mais la réalité économique demeure : l’engagement – y compris avec du contenu nuisible – génère de la valeur.

L’attention s’intensifie. Au Royaume-Uni, les régulateurs mettent en œuvre la loi sur la sécurité en ligne, des procès concernant les préjudices liés aux médias sociaux émergent à l’échelle internationale, et des chercheurs ont accès à des documents internes des plateformes via des litiges. Ensemble, ces développements lèvent ce qui a longtemps été décrit comme une « boîte noire » entourant la prise de décision des plateformes.

L’environnement numérique n’a pas évolué naturellement. Il a été construit par des choix – techniques, économiques et politiques – faits sur plusieurs décennies. Et comme il a été conçu, il peut être repensé.

La conversation qui se déroule désormais en public ne concerne pas simplement l’interdiction des téléphones ou le blâme envers les jeunes utilisateurs. Il s’agit des incitations. Quels types d’environnements en ligne les modèles commerciaux actuels récompensent-ils ? Et quelles alternatives pourraient privilégier le bien-être tout en favorisant l’innovation ?

Pour les professionnels des industries de la publicité et de la technologie, ce moment peut sembler particulièrement important. Une conscience accrue du public signifie moins d’opportunités pour prétendre que les systèmes en ligne sont trop complexes à comprendre ou à influencer.

Si l’objectif est des espaces numériques plus sûrs, le débat doit dépasser le contenu individuel et s’attaquer aux structures qui expliquent pourquoi ce contenu se répand en premier lieu. Comprendre comment la publicité, les données et les algorithmes interagissent n’est pas un détail technique. C’est la clé pour construire un Internet qui protège les enfants plutôt que de profiter de leur attention.