Нещодавно у соціальних мережах трапилася досить тривожна ситуація, яку варто зрозуміти. Секс-діпфейки Тейлор Свіфт масово поширювалися на платформах таких як X, Instagram і Threads, спричинивши кризу фальшивого контенту, яку платформи ніколи раніше не бачили у такому масштабі.

Масштаб був вражаючим: одна лише зображення, поширена в X, набрала 47 мільйонів переглядів до того, як аккаунт було заблоковано. Це дає уявлення про те, як швидко поширюється цей контент, коли його ніхто не зупиняє вчасно. X вирішив бути більш агресивним і безпосередньо заблокував пошук за словами 'Taylor Swift' та 'IA', показуючи повідомлення 'Щось пішло не так', коли хтось намагається це зробити. Керівник бізнесу X визнав, що це тимчасовий захід, спрямований на 'пріоритет безпеки'.

Instagram і Threads обрали інший шлях. Вони дозволяють шукати ім’я артистки, але якщо ввести 'Taylor Swift IA', з’являється попередження: 'Ви впевнені, що хочете продовжити? Введений вами термін іноді асоціюється з діяльністю небезпечних організацій і осіб'. Проблема в тому, що ці фільтри досить легко обійти, змінюючи порядок слів.

Цікаво, що це не нова проблема, просто тепер вона стала більш помітною. Microsoft і Google запустили безкоштовні інструменти, які дозволяють створювати реалістичні зображення за допомогою тексту з використанням генеративного ШІ. Сатья Наделла, генеральний директор Microsoft, описав діпфейки як 'тривожні та жахливі', закликавши індустрію швидко діяти у сфері безпеки. Американський профспілковий союз акторів (SAG-AFTRA) був категоричним: він назвав фальшиві зображення Тейлор Свіфт 'турбуючими, шкідливими і глибоко тривожними', вимагаючи криміналізувати поширення такого контенту без згоди.

Реальність полягає в тому, що діпфейки непропорційно впливають на жінок. Група Reality Defender відстежила понад двадцять унікальних зображень, створених ШІ, з Тейлор Свіфт, багато з яких містили насильницький або сексуальний контент. З 2019 року дослідження показують, що більшість жертв явних діпфейків — актриси Голлівуду та співачки K-pop. Технології стали настільки доступними, що будь-хто може створювати цей контент за допомогою базових інструментів.

Тейлор Свіфт розглядає можливість подачі судових позовів проти сайтів, які публікували ці зображення. Тим часом Білий дім закликав Конгрес створити відповідне законодавство. Те, що сталося з Тейлор Свіфт, — лише верхівка айсберга: MrBeast, Том Хенкс та інші знаменитості також стали жертвами. Основна дискусія полягає в тому, як зупинити діпфейки без цензури легітимних технологій.