Нещодавно я переглянув досить важний випадок, що стосується Telegram у Південній Кореї та серії скандалів, пов’язаних із порнографічними відео та контентом про сексуальні злочини. Ця справа насправді відображає фундаментальну проблему, з якою стикаються платформи для зашифрованого спілкування.

Початком стало постійний тиск з боку корейських органів щодо Telegram. Комітет стандартів зв’язку Південної Кореї (KCSC) у підсумку вимагав від Telegram видалити 25 відео з контентом сексуальної експлуатації, які були переважно створені за допомогою deepfake-технологій і стосувалися неповнолітніх та жінок. Здається, що це всього лише 25 відео, але за цим стоїть набагато серйозніша проблема — повідомляється, що в одному з Telegram-групувань налічується 220 000 учасників, які спеціалізуються на поширенні такого контенту, більшість жертв — неповнолітні.

Дані поліції Південної Кореї ще більш шокують. За останні три роки у їхніх розслідуваннях випадків злочинів із використанням deepfake 60% жертв — діти. З 2021 по середину 2023 року кількість випадків з deepfake зросла з 156 до 297, майже подвоївшись. Щонайменше 500 шкілських учнів стали жертвами. Це не просто проблема порнографії у Південній Кореї, а криза, з якою стикається все суспільство.

Ще більш драматичною є ситуація, коли у серпні 2024 року CEO Telegram Павло Дуров був заарештований у Франції. Його звинувачують у кількох злочинах, зокрема у співучасті у поширенні дитячих сексуальних матеріалів та у відмові співпрацювати з поліцією. Хоча після внесення застави у 5 мільйонів євро його відпустили, ця справа цілком поставила Telegram у центр уваги громадської думки. Telegram намагається захищатися, стверджуючи, що платформа або її власники не повинні нести відповідальність за зловживання користувачів, але ця аргументація явно не переконує нікого, особливо у контексті Південної Кореї.

Цікаво, що це не перший раз, коли Telegram потрапляє у подібний скандал. У 2020 році сплив скандал із "Nth Room" — групою, яку керував 20-річний Чо Джу-бін через Telegram, де він створював чат-кімнати з сексуальним рабством, шантажуючи щонайменше 103 жінок, з яких 26 були неповнолітніми. Чо отримав 40 років ув’язнення, але цей скандал давно залишив пляму на репутації Telegram.

Уряд Південної Кореї став дуже рішучим. Президент Юн Сок-юль неодноразово наголошував на необхідності жорсткої політики щодо цифрових сексуальних злочинів, особливо тих, що стосуються неповнолітніх. Відповідно до Закону про запобігання сексуальному насильству та захисту жертв, створення та поширення чітких deepfake-відео може каратися позбавленням волі до 5 років або штрафом у 50 мільйонів вон (близько 37 500 доларів США).

Зараз Telegram, здається, усвідомлює серйозність проблеми. У серпні 2024 року вони опублікували рідкісне вибачення, визнавши погану комунікацію з KCSC і висловивши сподівання на побудову довіри з урядом Південної Кореї. Щоб продемонструвати свою щирість, Telegram створив спеціальну електронну пошту для повідомлень про нелегальний контент. Представник KCSC заявив, що вони планують посилити співпрацю з Telegram через цю гарячу лінію та ексклюзивну поштову адресу, щоб боротися з поширенням матеріалів сексуальної експлуатації за допомогою deepfake.

Але чесно кажучи, важко сказати, наскільки це матиме реальний ефект. Історія невиконання з боку Telegram і дії Дурова, що все ще перебуває під судовим переслідуванням, показують, що видалення 25 відео — це крапля в морі у порівнянні з масою нелегального контенту. Вирішення проблеми порнографії у Південній Кореї вимагає не лише обіцянок платформи, а й реальних технологічних інвестицій і посилення правопорядку. Ця боротьба тільки починається, і попереду ще багато роботи.