Криза глибокихфейкових порносторінок: чому ідоли, такі як TWICE, стикаються з невпинною загрозою у цифрову епоху

Масштаби зловживань глибокфейковим порно зірок у Південній Кореї досягли тривожних масштабів. Останні розслідування виявили, що молоді правопорушники — 75% з яких віком від 10 до 19 років — активно синтезують інтимні зображення публічних осіб та звичайних жінок за допомогою AI-технологій, а потім поширюють ці сфабриковані матеріали через зашифровані канали. Члени всесвітньо відомих груп, таких як TWICE і NewJeans, стали об’єктами того, що влада називає «Room N 2.0», порівнюючи з попереднім скандалом, який шокував націю.

Як криза розгорнулася: від фото у соцмережах до мережі зловживань на кампусах

Що робить цю хвилю глибокфейкового порно особливо тривожною, так це її систематичний характер. Злочинці збирають зображення облич з соцмереж і вводять їх у AI-інструменти, які за кілька секунд генерують відвертий контент. Ці зображення поширюються через організовані групи у Telegram, що охоплюють кілька університетів. Деякі жертви виявили спеціальні карти, створені стурбованими студентами, які позначили відомі гарячі точки зловживань — яскравий індикатор того, наскільки ця кримінальна діяльність стала нормою серед неповнолітніх.

Дані малюють похмурий портрет: 37% задокументованих жертв глибокфейкового порно цього року — неповнолітні. Студенти не просто пасивні споживачі; вони активно сприяють мережам, завантажуючи фотографії однокласників і перетворюючи їх у порнографію, що, ймовірно, є частиною організованих кримінальних синдикатів, що працюють на зашифрованих платформах.

Компанії з управління зірками проводять межу

Розважальні компанії, що представляють постраждалих артистів, не мовчать. JYP Entertainment, YG Entertainment і CUBE Entertainment оприлюднили офіційні заяви з засудженням зловживань і обіцянками вжиття юридичних заходів. Заява JYP — що вона «ніколи не стоятиме осторонь і не дивитиметься», — відображає серйозність, з якою індустрія ставиться до цієї нової загрози для своїх талантів.

Чому Telegram став нульовою точкою для поширення глибокфейкового порно

Зашифрований дизайн платформи, спочатку створений для захисту приватності користувачів, став її вразливістю. Південнокорейська поліція почала розслідування саме щодо Telegram після виявлення, що більшість каналів поширення глибокфейкового порно знаходяться саме там. Директор Ву Чон-су публічно заявив, що небажання Telegram активно співпрацювати з правоохоронними органами ускладнює розслідування у кількох юрисдикціях.

Засновник Telegram Павло Дуров тепер стикається з кримінальними звинуваченнями у Франції — не лише за сприяння глибокфейковому контенту, а й за нібито співучасть у торгівлі наркотиками та розповсюдженні дитячого сексуального контенту. Індонезія та Індія почали власні розслідування, досліджуючи, чи порушує Telegram місцеві закони. Зусилля Південної Кореї — третя велика міжнародна операція проти ролі платформи у сприянні цифровим сексуальним злочинам.

Парадокс відповідальності платформи

Telegram стверджує, що дотримується стандартів ЄС і що Дуров не вчинив особистих злочинів. Компанія заявляє, що використовує системи AI для моніторингу, обробляє мільйони скарг користувачів щодня і видаляє контент, що порушує її умови. Однак ці заходи явно не запобігли систематичним зловживанням мережами глибокфейкового порно.

Це ставить складне питання політики: чи повинні платформи нести відповідальність, коли користувачі використовують їхню інфраструктуру проти інших? Технічні лідери, такі як Ілон Маск і Віталік Бутерін, попереджають, що агресивне модерація контенту загрожує принципам свободи слова. Водночас правоохоронні органи стверджують, що непрозорість платформ і їхня неготовність співпрацювати безпосередньо сприяють злочинцям і навіть можуть їх підсилювати.

Міжнародні моделі: збалансований підхід Тайваню

Досвід Тайваню з платформою Dcard пропонує потенційний компроміс. Коли прокурори порушували справи про шахрайство та загрозу дітям, Dcard надавав обмежену інформацію користувачів без повного доступу до даних. Платформа зберігала базовий рівень приватності, одночасно сприяючи легітимним розслідуванням — демонструючи, що співпраця не вимагає методів на зразок слідчого державного апарату.

Однак ширша спроба Тайваню ухвалити «Закон про цифрові посередницькі служби» зазнала провалу через побоювання, що він обмежить свободу вираження, що показує, наскільки цей баланс залишається спірним і в глобальному масштабі.

Зростаючі ставки

Президент Південної Кореї Юн Сок-ює наказав провести всебічні розслідування щодо виробництва та поширення глибокфейкового порно. Правляча коаліція просунула законопроект, що збільшує терміни ув’язнення за сексуальні злочини з п’яти до семи років. Групи захисту прав жінок оголосили цю кризу «національною безпековою проблемою», зазначаючи, що багато громадян — особливо жінки — тепер бояться звичайної активності у соцмережах і відмовилися від публічної цифрової участі.

Для зірок і звичайних людей ця епідемія глибокфейкового порно — більше ніж порушення приватності; вона сигналізує про фундаментальне руйнування цифрової безпеки.