Récemment, j'ai revisité un cas qui mérite toute notre attention, concernant la série de controverses autour de Telegram en Corée du Sud, liées à la gestion de vidéos pornographiques et de contenus liés à la criminalité sexuelle. Cette affaire reflète en réalité une problématique fondamentale à laquelle font face les plateformes de communication cryptée.

Le point de départ est la pression continue des autorités sud-coréennes sur Telegram. La Commission coréenne des standards de la communication (KCSC) a finalement obligé Telegram à supprimer 25 vidéos contenant des contenus d’exploitation sexuelle, principalement fabriqués avec la technologie deepfake, visant des mineurs et des femmes. Cela ne représente que 25 vidéos, mais le problème sous-jacent est bien plus grave — il a été rapporté qu’un groupe Telegram comptait 220 000 membres, dédié à la diffusion de ce type de contenu, dont la majorité des victimes étaient des mineurs.

Les données de la police sud-coréenne sont encore plus alarmantes. Au cours des trois dernières années, 60 % des affaires de criminalité deepfake qu’ils ont enquêtées concernaient des enfants. Entre 2021 et la mi-2023, le nombre d’affaires de deepfake est passé de 156 à 297, presque doublé. Au moins 500 écoles ont vu leurs élèves devenir victimes. Il ne s’agit pas seulement d’un problème de vidéos pornographiques sur la plateforme, mais d’une crise sociétale plus large.

Plus dramatique encore, le PDG de Telegram, Pavel Durov, a été arrêté en août 2024 par les autorités françaises. Il est accusé de plusieurs infractions, notamment de complicité dans la diffusion de matériel de abus sexuels sur des enfants, ainsi que de refus de coopérer avec la police. Après avoir payé une caution de 5 millions d’euros, il a été libéré, mais cette affaire a mis Telegram sous le feu des projecteurs. La plateforme tente de se défendre, affirmant que ni la plateforme ni ses propriétaires ne devraient être responsables des abus commis par les utilisateurs, mais ces arguments ne convainquent clairement personne, surtout en Corée du Sud.

Ce qui est intéressant, c’est que ce n’est pas la première fois que Telegram se retrouve mêlé à ce genre de scandale. En 2020, l’affaire "Nth Room" avait éclaté : un jeune homme de 20 ans, Cho Ju-bin, gérait via Telegram une salle de chat pour esclaves sexuelles, où il a extorqué au moins 103 femmes, dont 26 étaient mineures. Cho a finalement été condamné à 40 ans de prison, mais ce scandale a laissé une tache indélébile sur Telegram.

Le gouvernement sud-coréen adopte une position très ferme. Le président Yoon Suk-yeol a plusieurs fois insisté sur la nécessité d’une tolérance zéro face à la criminalité sexuelle numérique, en particulier lorsqu’il s’agit de mineurs. Selon la loi sur la prévention de la violence sexuelle et la protection des victimes, la fabrication et la diffusion de vidéos deepfake explicites peuvent être punies d’une peine maximale de 5 ans de prison ou d’une amende de 50 millions de won (environ 37 500 dollars).

Aujourd’hui, Telegram semble prendre la gravité du problème au sérieux. En août 2024, ils ont publié une déclaration d’excuses rare, reconnaissant une communication difficile avec la KCSC, et exprimant leur souhait d’établir une relation de confiance avec le gouvernement sud-coréen. Pour montrer leur bonne foi, Telegram a mis en place une ligne de contact par email dédiée pour signaler les contenus illégaux. Un responsable de la KCSC a indiqué qu’ils comptaient renforcer leur coopération avec Telegram via cette ligne et une adresse email exclusive, afin de lutter contre la circulation de contenus d’exploitation sexuelle deepfake.

Mais honnêtement, il est encore difficile de dire à quel point cela sera efficace. La mauvaise réputation de Telegram en matière de coopération passée est là, Durov étant toujours sous le coup de poursuites judiciaires, et la suppression de 25 vidéos, aussi importante soit-elle, ne représente qu’une goutte d’eau face à l’immense volume de contenus illégaux. La résolution du problème des vidéos pornographiques sur South Korea ne dépend pas seulement de l’engagement de la plateforme, mais aussi d’un véritable effort technologique et d’une application rigoureuse de la loi. La bataille ne fait que commencer, et le chemin est encore long.