За 3 секунды можно скопировать ваш голос — ФБР подтверждает рост AI-мошенничества: виноваты организации, а не бабушка

Клонирование голоса с помощью ИИ: достаточно 3 секунд записи, чтобы звучать неотличимо от реального голоса. Впервые ФБР выделило ИИ-мошенничество в отдельную категорию преступлений; за год ущерб приближается к 900 млн долларов, причем более трети жертв — люди старше 60 лет.
(Контекст: xAI Маска запустила «ультрабыстрое клонирование голоса» Custom Voices — создание персонального Grok-«голоса» за 1 минуту естественной речи)
(Дополнение по ситуации: случаи AI-мошенничеств в Китае — подмена лица, смена голоса при видеозвонках, за 10 минут выманивают 20 млн новых тайваньских долларов)

Оглавление

Toggle

• За 3 секунды — галочка
• Больше не учите бабушку сомневаться в голосе внука
• Дайте боли институтам — и они возведут стены

Когда в трубке раздался плач дочери, у американской пенсионерки Шэрон Брайтвелл (Sharon Brightwell) из Довера (штат Флорида) не осталось ни капли бдительности. Летом 2025 года она услышала, как дочь April сквозь рыдания говорит, что попала в аварию и что ее задержала полиция; затем подключился «адвокат» — сразу запросил залог 15 тыс. долларов и предупредил, чтобы она не рассказывала об этом банку.

Она сделала так, как сказали. Лишь когда ей удалось дозвониться дочери, которая была на работе и вообще не попадала в аварии, она поняла: плач по телефону, тон, ритм дыхания — все это создано машиной, а повторить это можно всего за 3 секунды записи.

В апреле этого года IC3 при ФБР опубликовал отчет за 2025 год: впервые за 26 лет «мошенничества, связанные с ИИ», выделили в отдельную категорию — более 22 тыс. обращений и скорректированный ущерб свыше 893 млн долларов. Из них 352 млн долларов — потери жертв в возрасте старше 60 лет. По всей стране ущерб от киберпреступлений за год вырос на 26%: на долю тех, кому больше 60, приходится 7,7 млрд долларов — рост почти на 60% в год.

Даже само ФБР признает, что это всего лишь «нижняя граница», потому что большинство жертв вообще не знают, что с ними разговаривал алгоритм. Статистика Интерпола еще более шокирует: глобальный ущерб от финансовых мошенничеств в 2025 году составил 442 млрд долларов — это примерно ВВП Дании за целый год; а мошенничества с поддержкой ИИ приносят в 4,5 раза больше, чем традиционные методы.

За 3 секунды — галочка

Технический порог почти нулевой. Голосовое сообщение с автоответчика, видео с дня рождения, ролик в TikTok — уже достаточно, чтобы «скормить» модель клонирования голоса.

В прошлом году Consumer Reports протестировал шесть инструментов: Descript, ElevenLabs, Lovo, PlayHT, Resemble AI и Speechify, и выяснил, что большинство из них почти не имеют осмысленных механизмов против злоупотреблений. Из шести сервисов в четырех пользователю достаточно поставить галочку «у меня есть право клонировать этот голос», чтобы сгенерировать запись — проверка не нужна. ElevenLabs — относительно более строгий: там есть классификатор, прослеживаемые записи, блокировка голосов конкретных людей и другие уровни защиты. Но эти механизмы почти всегда работают постфактум: когда голос уже скопирован и звонок уже сделан, защита начинает «включаться».

Хуже того: даже человеческие эксперты, которые занимаются распознаванием синтезированной речи, не выдерживают. Профессор Калифорнийского университета в Беркли Хани Фарид (Hany Farid) — общепризнанный один из сильнейших в мире специалистов по deepfake-экспертизе — в интервью The New York Times в этом году в июне признался, что уже не может пройти даже собственные тесты: «Мне кажется, что я почти ослеп».

Больше не учите бабушку сомневаться в голосе внука

Нацеливаются на пожилых людей — не потому, что они глупы, а потому что это самая эффективная цель: высокие остатки на счетах, привычка воспринимать телефон как продолжение реального мира, почти полное незнание технологии клонирования голоса и — главное слабое место этой схемы — любовь к близким.

Основатель/сотрудник компании по голосовой безопасности Pindrop Амит Гупта (Amit Gupta) сказал прямо: «Цель не в том, чтобы идеально скопировать голос, а в том, чтобы создать достаточную эмоциональную неопределенность и ощущение срочности — чтобы жертва действовала, не успев проверить». Даже адвокат из Филадельфии Гэри Шилдхорн (Gary Schildhorn) сам стал жертвой; позже он сказал: «До самой смерти я буду клясться, что это был твой голос». Если даже юриста — обученного сомневаться и проверять доказательства — обманули, то что говорить о бабушке, которая слышит, как «внука похитили», — Лиз Бенц (Liz Benz) из Баффало описала это как «целых двадцать минут ужаса».

В отчете FTC за декабрь прошлого года указано: мошеннические потери, о которых сообщают люди старше 60 лет, в период 2020–2024 годов выросли почти в 4 раза — до примерно 2,4 млрд долларов. Из них 68% приходятся на ущерб одним платежом свыше 100 тыс. долларов. Если учитывать «черные» цифры — случаи, о которых не сообщают, — FTC оценивает реальный годовой ущерб до 81,5 млрд долларов.

Сейчас самый распространенный совет в отрасли — договориться в семье о безопасном кодовом слове: если по телефону код назвать не могут, разговор прекращают. Намерение хорошее, но по сути это перекладывает ответственность за остановку целой индустриальной цепочки мошенничества на одного пожилого человека, который уже находится на грани срыва.

Дайте боли институтам — и они возведут стены

Вот в чем суть асимметрии. CEO Adaptive Security Боу (布) сформулировал точно: «Один человек в комнате стучит по клавиатуре — и может создать бесконечное число атакующих». Автоматизированные системы почти без затрат массово производят мошеннические звонки, тогда как защищающая сторона — это один испуганный пожилой человек и время одного телефонного звонка.

Единственное, что доказало эффективность, — это банковская система. С октября 2024 года Британское управление регулирования платежных систем (PSR) обязало банки полностью возмещать жертвам мошенничества с санкционированными переводами; при этом банки отправителя и получателя возмещают по половине, с лимитом 85 тыс. фунтов стерлингов. После внедрения схемы доля возмещения по суммам, которые были украдены, выросла с прежних 65% до 89%. Логика простая: как только банк должен платить за мошенничество, у него появляется стимул перехватывать крупные снятия, вводить для старых клиентов период «остывания» и заставлять операторов сделать еще один звонок для подтверждения.

Соответствующие обязанности по AI Act в ЕС вступают в силу в 2025–2026 годах. А американский закон ELVIS в штате Теннесси также требует письменного согласия на клонирование голоса. Регулятор всегда будет идти медленнее технологий; заставить институты отвечать за то, что они обрабатывают, — единственное решение, которое выдерживает проверку.