Le père britannique lutte pour la justice technologique après le décès de sa fille

(MENAFN - Gulf Times) Le père de Molly Russell, adolescente britannique qui s’est suicidée après avoir consulté du contenu pro-suicide en ligne, espère qu’un documentaire sur sa mort inspirera un changement.

Le film - “Molly vs the Machines” - sur sa fille de 14 ans, “ramènera une partie de la douleur”, a reconnu Ian Russell.

Mais dans une interview avec AFP, il a déclaré qu’il mettrait en lumière que cette tragédie n’était pas isolée, et “il y a un réel espoir que cela devienne une partie d’une conversation qui pourrait aider à provoquer un changement”.

Le documentaire, qui sera présenté dans les cinémas britanniques à partir du 1er mars et diffusé sur la chaîne britannique Channel 4 le 5 mars, raconte sa quête pour tenir “les systèmes numériques conçus pour le profit” responsables de sa perte, selon Russell.

Étonnamment peut-être, il s’oppose à une interdiction totale des réseaux sociaux pour les enfants, arguant que “faire changer les plateformes est en réalité beaucoup plus efficace”.

Le père en deuil cherche également à mettre fin à l’impunité des grandes entreprises technologiques, qu’il accuse de cibler délibérément les personnes vulnérables avec des algorithmes addictifs leur fournissant du contenu nuisible à des fins lucratives.

** ‘Énigmatique’ **

Molly s’est suicidée en 2017, et un coroner a conclu cinq ans plus tard qu’elle était morte d’un acte d’automutilation alors qu’elle souffrait des “effets négatifs du contenu en ligne”.

L’enquête sur sa mort a révélé que, parmi les 16 300 publications que Molly avait sauvegardées, partagées ou aimées sur Instagram dans les six mois précédant son décès, 2 100 concernaient la dépression, l’automutilation ou le suicide.

Son engagement avec du contenu pro-suicide a augmenté à la fin de sa vie, jusqu’à ce que “cette personne intelligente, attentionnée, belle ait été persuadée qu’elle était sans valeur”, a déclaré son père.

“Comment Molly, parmi tous, a pu en être convaincue, pour ceux d’entre nous qui ont eu la chance de la connaître, c’est tout simplement énigmatique”, a-t-il ajouté.

Une étude publiée en octobre par la Molly Rose Foundation, une organisation de prévention du suicide fondée et présidée par Russell, a montré que 37 % des enfants de 13 à 17 ans avaient vu au moins un type de contenu à haut risque lié au suicide, à l’automutilation, à la dépression ou aux troubles alimentaires durant la semaine où ils ont été sondés.

Selon les données, recueillies avant que les obligations de sécurité des enfants de la loi britannique sur la sécurité en ligne (Online Safety Act) ne deviennent loi, 27 % de ces enfants ont déclaré avoir vu ce type de contenu au moins 10 fois cette semaine-là.

** Lois plus strictes **

La fondation a salué la législation proposée par le gouvernement du Premier ministre britannique Keir Starmer.

Elle a qualifié de “premier pas bienvenu” la décision d’interdire aux chatbots IA de générer du contenu illégal ou nuisible — une faille exploitée par les deepfakes sexualisés créés par le chatbot IA de X, Grok.

Mais elle a indiqué que la loi sur la sécurité en ligne, qui oblige légalement les entreprises technologiques à mieux protéger les enfants et les adultes en ligne, pourrait aller plus loin.

La loi devrait exiger une plus grande transparence de la part des plateformes et utiliser des limites d’âge distinctes pour différents outils — comme les chatbots IA.

La fondation soutient que cela pousserait les entreprises à offrir moins de services à haut risque et rendrait les plateformes plus sûres.

Elle appelle également à des algorithmes “fondamentalement repensés” qui promeuvent du contenu sain provenant de sources fiables plutôt que du “contenu nuisible et toxique”.

Et elle milite pour une meilleure éducation numérique dans les écoles afin de permettre aux jeunes de “réfléchir de manière critique” sur le contenu en ligne.

Russell privilégie cette approche à deux volets plutôt qu’une interdiction des réseaux sociaux pour les enfants, soulignant que le blocage des moins de 16 ans en Australie ne couvre que 10 plateformes et pourrait pousser les mineurs vers des sites plus dangereux en marge.

Les jeunes pourraient trouver des moyens de contourner les règles, a-t-il ajouté, tandis que ceux qui auront 16 ans entreront dans un espace “non réglementé”.

** ‘Se lever’ **

Les préoccupations s’aggravent face à l’impression que “les barons de la tech” comme le PDG de Meta, Mark Zuckerberg, et le propriétaire de X, Elon Musk, sont au-dessus des lois, selon Russell.

Il voit cependant des lueurs d’espoir. Zuckerberg a récemment abordé la sécurité de ses plateformes devant un jury et sous serment lors d’un procès inédit en Californie sur l’addiction aux réseaux sociaux.

Et en janvier, le régulateur britannique des médias, Ofcom, a ouvert une enquête sur X pour non-respect de ses obligations en matière de sécurité. Il enquête également sur X et xAI — qui a développé Grok — pour vérifier leur conformité à la loi sur la protection des données personnelles concernant les deepfakes sexualisés.

“Si les dirigeants ont le courage de se lever et de se mesurer aux barons de la grande tech, alors le changement se produira”, a déclaré Russell.

Molly Russell documentaire sur le contenu pro-suicide Molly vs the Machines