Як глибокі фейки на основі ШІ загрожують виборам у Непалі 5 березня: зростаюча проблема у новинах

Оскільки Непал наближається до своїх позачергових виборів 5 березня, країна стикається з безпрецедентною загрозою: штучно створені глибокі фейки заповнюють цифровий простір і формують громадську думку у критичний політичний момент. Цей сплеск синтетичних медіа є небезпечним злиттям технологій та виборчої вразливості, з яким мають терміново боротися виборчі офіційні особи, правоохоронні органи та громадяни.

Комп’ютерна обман: Відео глибоких фейків, що циркулюють перед голосуванням у Непалі

Проблема стала очевидною, коли в Інтернеті з’явилося повністю комп’ютерне згенероване відео, на якому разом зображені три впливові непальські політики. У кадрі були колишній мер Катманду Балендра Шах, колишній керівник сектору електроенергії Кулман Гісінг і лідер Раштрия Сватантра Парти Раві Ламічхане, які йшли поруч. Це відео швидко поширилося через соціальні мережі, викликавши припущення про формування нової політичної коаліції. Однак жоден із цих політиків насправді не зустрічався — вся ця зустріч існувала лише у кремнії та коді.

Цей інцидент висвітлив набагато ширший ландшафт загроз. Політична система країни залишається вразливою після насильницьких молодіжних протестів, що відбулися всього шість місяців тому і змусили колишнього прем’єр-міністра К.П. Шарму Олі покинути посаду. Той період хаосу та корупційних протестів створив сприятливий ґрунт для поширення дезінформації, і зловмисники скористалися цією можливістю.

Синтетичний аудіо та дезінформація: Чому вірусні фейки поширюються швидше за факти

Крім відео глибоких фейків, аудіофальсифікації поширюються через цифрову екосистему Непалу. Сварнім Вагле, віце-президент Раштрия Сватантра Парти, подав офіційну скаргу до Кібервідділу поліції Непалу після виявлення сфальсифікованої записи, яка неправдиво стверджувала, що він мав переговори з прем’єр-міністром Індії. Такої розмови ніколи не було.

Ці аудіо-містифікації створюють унікальні виклики для соціальних мереж Непалу. Голосові повідомлення швидко поширюються у сімейних чатах і групах WhatsApp, часто доходячи до аудиторії, яка не може перевірити їхню автентичність. Фактчекери, що працюють з організаціями на кшталт Poynter, задокументували, що звичайні громадяни не мають надійних інструментів для розрізнення справжніх записів і синтетичних. До того, як дезінформація досягне вразливих груп, вона вже здобула довіру через соціальний доказ.

Регуляторні виклики Непалу: Чому існуючі політики не справляються з генеративним ШІ

Попередні урядові спроби контролювати цифрову дезінформацію закінчилися провалом. Під час вересневих протестів влада заблокувала Facebook, X і YouTube за несплату реєстрації у регуляторів. Замість того, щоб придушити заворушення, заборона спричинила додаткове насильство та хаос. Reuters задокументував щонайменше 77 смертей і тисячі поранених під час насильства, що послідувало. Зрештою, обмеження було знято, і влада визнала, що жорстке блокування лише перенаправляє фальшиву інформацію у більш важкодоступні для контролю канали.

Комісія з виборів Непалу намагалася вирішити ці питання через політичні рамки. Їхня “Політика щодо використання соціальних мереж у виборчому управлінні” 2021 року встановила попередні керівні принципи. Для майбутніх виборів 5 березня чиновники розробили нові кодекси поведінки, що явно забороняють синтетичні медіа та фальшиві акаунти, створені для маніпуляції виборцями. Однак експерти попереджають, що ці регуляції потребують термінової модернізації для врахування можливостей генеративного ШІ. Залишаються невирішеними важливі питання: як уряди мають визначати синтетичні медіа? Чи повинні кампанії розкривати контент, створений за допомогою ШІ? Хто несе відповідальність, коли поширюється сфальсифікована інформація?

Скоординована оборона: Як медіа, уряд і громадяни можуть протистояти виборчим глибоким фейкам

Спеціалісти та моніторингові організації визнають, що одних регуляцій недостатньо для вирішення цієї проблеми. Вони пропонують скоординований, багатосторонній підхід. Новинні організації та фактчекери мають досліджувати вірусний контент із судовою ретельністю, простежуючи його походження і прозоро документуючи методи перевірки. Політичні партії та кандидати мають зобов’язатися відмовитися від технологій глибоких фейків і чітко маркувати будь-які матеріали, створені за допомогою ШІ. Платформи соціальних мереж мають створити швидкі реагувальні команди, укомплектовані фахівцями, які володіють непальською мовою і розуміють місцеву політику.

Звичайні громадяни також несуть відповідальність. Експерти рекомендують запровадити протокол “тривагіна за десять секунд”: зупинитися перед поширенням шокуючих заяв, перевірити джерела і підтвердити легітимність інформації перед її поширенням.

Чи зможе поліція Непалу залишатися попереду загроз, пов’язаних із ШІ, у виборчому процесі?

З технічної точки зору, Кібервідділ поліції Непалу активно готує складні контрзаходи. Співробітник відділу, СП Рей, визнав зростаючу загрозу: “ШІ розширюється і знаходить нові застосування. Незабаром ми можемо зіткнутися з злочинами та кібератаками, що базуються на технологіях ШІ.”

Рей висловив обережний оптимізм, зазначивши, що впровадження штучного інтелекту в Непалі залишається відносно новим. Це дає вузьке вікно для підготовки захисту, поки зловмисники не почнуть повністю його озброювати. “Ми маємо можливості боротися з цими загрозами і маємо їх використовувати,” — заявив Рей. Він також визнав один обмежуючий фактор: “Поліція Непалу може ретельно розслідувати внутрішні дії, але дії, що походять із закордонної території, потребуватимуть більше часу для розслідування.”

Ця оцінка підкреслює фундаментальний конфлікт: Непал має швидко створювати оборону проти зростаючої загрози, тоді як міжнародні аспекти проблеми залишаються важкими для контролю.