Недавно в социальных сетях произошла довольно тревожная ситуация, которую стоит понять. Массово распространялись сексуальные дипфейки Тейлор Свифт на платформах X, Instagram и Threads, вызвав кризис фальшивого контента, которого платформы никогда ранее не видели в такой масштабности.

Масштаб был впечатляющим: одна лишь изображение, опубликованное в X, набрала 47 миллионов просмотров, прежде чем аккаунт был заблокирован. Это дает представление о том, как быстро распространяется такой контент, когда его никто не останавливает вовремя. X решил действовать более жестко и напрямую заблокировал поиск по запросам «Taylor Swift» и «ИИ», показывая сообщение «Что-то пошло не так», когда кто-то пытается их найти. Руководитель бизнес-направления X признал, что это временная мера, направленная на «приоритетную безопасность».

Instagram и Threads пошли по другому пути. Они позволяют искать имя артистки, но при поиске «Taylor Swift ИИ» появляется предупреждение: «Вы уверены, что хотите продолжить? Искомый термин иногда связан с деятельностью опасных организаций и лиц». Проблема в том, что эти фильтры довольно легко обходятся, меняя порядок слов.

Интересно, что это не новая проблема, просто сейчас она стала более заметной. Microsoft и Google выпустили бесплатные инструменты, позволяющие создавать реалистичные изображения по текстовому описанию с помощью генеративного ИИ. Сатья Наделла, генеральный директор Microsoft, назвал дипфейки «тревожными и ужасными», призвав индустрию быстро принять меры по обеспечению безопасности. Американский союз актеров (SAG-AFTRA) прямо заявил: фальшивые изображения Тейлор Свифт — «беспокоящие, вредные и глубоко тревожные», потребовав криминализировать распространение такого контента без согласия.

Реальность такова, что дипфейки непропорционально затрагивают женщин. Группа Reality Defender отслеживала более двадцати уникальных изображений Тейлор Свифт, созданных ИИ, многие из которых содержали насильственный или сексуальный контент. С 2019 года исследования показывают, что большинство жертв явных дипфейков — актрисы Голливуда и певицы K-pop. Технология стала настолько доступной, что любой может создать такой контент с помощью базовых инструментов.

Свифт, вероятно, рассматривает возможность подачи иска против сайтов, разместивших эти изображения. Тем временем, Белый дом призвал Конгресс принять специальное законодательство. То, что произошло с Тейлор Свифт — лишь вершина айсберга: MrBeast, Том Хэнкс и другие знаменитости тоже стали жертвами. Настоящий вопрос — как остановить дипфейки, не ограничивая легитимные технологии.