Один сотрудник британской инженерной компании присоединился к рутинскому видеозвонку с его финансовым директором и 5 коллегами в 2024 году

Он авторизовал переводы на сумму 25,6 миллиона долларов США на основе обсуждения, но он не знал, что все участники этого звонка, кроме него, были AI-Deepfake
Компания называлась Arup. Британская фирма по дизайну и инженерии с 18 500 сотрудниками в 34 офисах
Вся эта атака началась с одного электронного письма
Финансовый работник в офисе Arup в Гонконге получил сообщение, которое утверждало, что оно от финансового директора компании, базирующегося в Великобритании
В письме упоминалась «секретная транзакция», которую нужно было срочно и конфиденциально обработать
Работник подумал, что это фишинг. Он был прав в своих подозрениях, но затем злоумышленники усилили атаку
Они пригласили его на видеоконференцию, чтобы подтвердить, что запрос действительно легитимен. Он присоединился, ожидая, что это будет мошенничество
На звонке был финансовый директор. Также присутствовали несколько других старших коллег, которых он узнавал. Они приветствовали его по имени
Они подробно обсудили транзакцию, используя внутреннюю корпоративную терминологию. Они ссылались на текущие проекты, о которых знали только инсайдеры
Их лица двигались естественно, голоса звучали точно так же, и у них были настоящие разговоры друг с другом и с ним
Он перестал подозревать и, следуя инструкциям на звонке, он сделал 15 отдельных переводов на сумму 200 миллионов гонконгских долларов (25,6 миллиона долларов США) на пять различных банковских счетов в Гонконге в последующие дни
Мошенничество было обнаружено только когда он связался с реальным головным офисом в Великобритании по поводу проекта. Настоящий финансовый директор никогда не слышал о транзакции. Другие коллеги на звонке тоже никогда не участвовали в нем
Каждое лицо на экране было Deepfake
Полиция Гонконга расследовала... Злоумышленники создали сложные AI-Deepfake всех руководителей, собирая публично доступное видео и аудио с онлайн-конференций, виртуальных корпоративных встреч и отчетных звонков
У Arup было часы публичных видеоматериалов с руководством компании
Deepfake не были предварительно записаны, они работали в реальном времени. Каждый фальшивый участник мог говорить, реагировать, отвечать и вести непредсказуемый диалог с жертвой
Обычно фишинговые письма ловятся постоянно. Голосовые клонированные звонки имеют более высокий уровень успеха, но все равно терпят неудачу, когда жертва запрашивает письменное подтверждение
Многопользовательские видеозвонки с Deepfake решают обе проблемы одновременно. Невозможно запросить подтверждение, когда вы уже подтверждаете глазами
В рамках того же расследования полиция Гонконга обнаружила связанную операцию. Восемь украденных гонконгских удостоверений личности использовались для подачи 90 заявок на кредиты и регистрации 54 банковских счетов
AI-Deepfake успешно обходили системы распознавания лиц как минимум 20 раз, подтверждая эти личности как легитимные
Технологический стек теперь достаточно зрелый, чтобы обмануть как человеческую проверку (видеозвонки), так и машинную (KYC с распознаванием лиц)
Руководитель информационных технологий Arup Роб Грейг позже подтвердил, что компания сталкивается с атаками, «резко увеличивающимися», и он оценил, что глобальные убытки от мошенничества с использованием AI достигнут 40 миллиардов долларов к 2027 году
Потеря Arup составила 25,6 миллиона долларов от одного финансового работника за один звонок. Это самый успешный публично зафиксированный случай мошенничества с Deepfake
Расследование остается открытым, арестов не было. Средства были распределены по нескольким счетам в течение нескольких часов после переводов, и большинство из них уже было отмыто из гонконгской банковской системы
Чтобы быть в безопасности, лучше:
Попросить человека на звонке повернуть голову и показать весь профиль, потому что модель Deepfake обычно ломается при экстремальных углах
Попросить их изменить освещение в комнате, так как Deepfake плохо справляются с резкими изменениями освещения
Попросить их взять случайный предмет и показать его на камеру, потому что модель часто глючит при интеграции реальных объектов в синтетическое лицо
Эти проверки работают сегодня. Они не будут работать долго
Более крупная история — это то, что этот тип атаки доказывает о следующем десятилетии корпоративных финансов
Каждый руководитель любой публичной компании имеет часы записанного видео на YouTube, LinkedIn, в отчетных звонках и панельных дискуссиях. Эти материалы — тренировочный набор данных для любого злоумышленника, желающего создать Deepfake этого человека
Есть о чем беспокоиться