Только что услышал о довольно тревожной ситуации. Вирусным стал видео с глубоким фейком, созданным ИИ, с участием Scarlett Johansson, и честно говоря, это тревожный сигнал о том, насколько далеко зашла эта технология. Видео было не только о ней — в нем участвовали более дюжины других еврейских знаменитостей, таких как Адам Сэндлер, Мила Кунис, Стивен Спилберг и другие, все сгенерированы ИИ, чтобы выглядеть так, будто они реагируют на недавние антисемитские высказывания Канье Уэста. На фальшивом видео они одеты в белые рубашки с поднятыми средними пальцами и звездами Давида, заявляя «Довольно!», против антисемитизма.

Что удивительно, так это то, что видео с глубоким фейком с Scarlett Johansson, по сообщениям, было создано израильским экспертом по генеративному ИИ по имени Ори Бейджеро. Послание было на самом деле против ненависти, но это почти неважно — настоящая проблема в том, что кто-то мог создать убедительные изображения более чем 20 знаменитостей без их согласия.

Сам Johansson выпустила заявление, на которое стоит обратить внимание. Она сказала, что это даже не ее первый опыт с кражей с помощью ИИ. В мае 2024 года голос ChatGPT под названием «Sky» был по сути похож на Scarlett Johansson, и она публично обратила на это внимание. Потом была компания, использовавшая ее образ для рекламы в ноябре 2023 года. Так что, говоря о том, что она «очень публичная жертва искусственного интеллекта», она говорит из собственного опыта.

Вот в чем дело — и именно это подчеркнула Johansson в своем заявлении — настоящая угроза заключается не только в защите отдельных знаменитостей. Она предупреждает, что ИИ-активируемая речь ненависти — системная проблема. «На горизонте идет волна высотой в тысячу футов по поводу ИИ», — сказала она, указывая, что прогрессивные страны за пределами США уже начали принимать ответственные законы. Между тем, правительство США, по ее словам, «парализовано» в этом вопросе.

Она призывает законодателей сделать регулирование ИИ приоритетом, представляя это как двупартийную задачу. Неважно, интересуетесь ли вы фальшивкой с Scarlett Johansson или нет, ее более широкий посыл остается актуальным: мы движемся к реальности, где глубокие фейки и синтетические медиа могут в геометрической прогрессии усиливать речь ненависти и дезинформацию масштабно. Один человек, выступающий против — это одно, а умножение этого сообщения с помощью ИИ — совсем другое.

Между тем, другие знаменитости, такие как Дэвид Швиммер, тоже выступают против. Он даже призвал Илона Маска деактивировать аккаунт Канье Уэста в X, отметив, что у Уэста 32,7 миллиона подписчиков — больше, чем у еврейского населения мира. Масштаб охвата, который дают эти платформы для распространения ненависти, поразителен, если подумать так.

Ирония в том, что само видео с глубоким фейком было создано с хорошими намерениями — против ненависти. Но оно все равно показывает уязвимость. Если такое может произойти с «хорошим» посланием, то что могут сделать плохие акторы? Предупреждение Scarlett Johansson о необходимости регулирования ИИ — это не просто звездная драма; это указывает на реальный пробел в управлении, который будет важен для всех нас.