Кіберзлочинність може бути єдиною роботою, яку ШІ не забирає, свідчить дослідження

Коротко

• Дослідники з Кембриджу, Едінбурга та Стратклайд проаналізували 97 895 тем на форумах з кіберзлочинності, опублікованих після запуску ChatGPT.
• Інструменти «Темного ШІ» на кшталт WormGPT створювали культурний шум, але майже не генерували робочий шкідливий софт, тоді як зломані чат-боти стають дедалі важчими для тривалого функціонування понад кілька днів.
• Найбільший вимірюваний злочин, викликаний ШІ, — це не хакерство. Це масове поширення SEO-спаму, шахрайство з романтичними стосунками та продаж AI-згенерованих оголених фотографій по долару за штуку.

Протягом трьох років компанії з кібербезпеки, уряди та лабораторії ШІ попереджали, що генеративний ШІ може спричинити нове покоління надздібних хакерів. Згідно з новою академічною статтею, яка справді досліджувала це, надздібні хакери здебільшого використовують ChatGPT для написання спаму та створення оголених фотографій для розваги. Дослідження під назвою Stand-Alone Complex or Vibercrime? було опубліковане на arXiv дослідниками з Кембриджу та інших університетів і має на меті зрозуміти, як саме кіберзлочинний підпілля приймає ШІ, а не як це стверджують постачальники кібербезпеки. «Ми представляємо один із перших спроб емпіричного дослідження змішаних методів ранніх моделей впровадження GenAI у підпіллі кіберзлочинності», — написали дослідники.

Команда проаналізувала 97 895 тем на форумах, опублікованих після запуску ChatGPT у листопаді 2022 року, з набору даних CrimeBB Центру кіберзлочинності Кембриджу з форумів підпілля та темного інтернету. Вони застосували тематичні моделі, вручну прочитали понад 3 200 тем і етнографічно занурилися у сцену.  Висновки не є лестить для спільноти апокаліптичних прогнозів щодо ШІ: 97,3% тем у зразку класифіковані як «інше», тобто не стосувалися використання ШІ для злочинів взагалі. Лише 1,9% містили згадки про використання інструментів для кодування vibe. ‘Нічого більшого, ніж необмежений ChatGPT’ Пам’ятаєте WormGPT, FraudGPT і хвилю нібито зловмисних чат-ботів, що заполонили заголовки у 2023 році? Дані форумів розповідають іншу історію.

Більшість повідомлень про продукти «Темного ШІ», за словами дослідників, були проханнями про безкоштовний доступ, байдужею спекуляцією та скаргами, що інструменти насправді не працювали. Один розробник популярного сервісу Темного ШІ згодом зізнався учасникам форуму, що продукт був маркетинговою вправою. «В кінці кінців, [CybercrimeAI] — це нічого більшого, ніж необмежений ChatGPT», — написав розробник перед закриттям проекту. «Будь-хто в Інтернеті може використати відомий метод джейлбрейку і досягти таких самих, якщо не кращих, результатів.» До кінця 2024 року дослідники стверджують, що джейлбрейки для основних моделей стали одноразовими. Більшість з них перестають працювати за тиждень або раніше. Відкриті моделі можна зламати необмежену кількість разів, але вони повільні, ресурсоємні і застигли у часі. «Захисні бар’єри для систем ШІ доводять свою корисність і ефективність», — підсумовують автори, що є для них самих контрінтуїтивним відкриттям для критичної роботи. Vibe-кодування реально. Взлом vibe, здебільшого, ні У статті прямо йдеться про широко висвітлений у серпні 2025 року звіт Anthropic, який стверджував, що Claude Code використовувався для проведення « vibe-хакінг» кампанії з викупу у 17 організацій. Дані команди з Кембриджу просто не підтверджують цю модель у ширшому підпіллі. У досліджених форумах асистенти кодування ШІ використовуються так само, як і звичайні розробники: як автозавершення та замінники Stack Overflow для вже навчених програмістів. Низькокваліфіковані актори залишаються з готовими скриптами, оскільки вони працюють. Дослідники виявили, що навіть хакери не довіряють своїм vibe-кодованим інструментам зломів. «Кодинг за допомогою ШІ — це двосічний меч. Це прискорить розробку, але також підсилює ризики, такі як небезпечний код і вразливості в ланцюжку поставок», — сказав один користувач у форумі, який досліджували. Ще один попереджав про довгострокову втрату навичок: «Зараз очевидно, що використання ШІ для кодування спричиняє дуже швидке негативне погіршення ваших навичок», — написав хакер у форумі, — «Якщо ваша мета — просто створювати шахрайські SaaS-сервіси і вам байдуже до якості/безпеки/продуктивності коду, можливо, варто використовувати vibe-кодинг. (Також це здається придатним для фішингу).»

Це різко контрастує з панічними прогнозами Європолу, який у 2025 році попереджав, що повністю автономний ШІ колись зможе керувати злочинними мережами. Де ШІ справді допомагає злочинцям Збурення, коли воно з’являється, відбувається на нижніх щаблях ланцюга. Шахраї SEO використовують LLM для масового створення блог-спаму, щоб боротися з падінням доходів від реклами. Шахраї з романтичних афер і оператори eWhoring додають голосове клонирование та генерацію зображень. Шахраї, що шукають швидкий заробіток, створюють AI-написані електронні книги, які продають по 20 доларів. Найбільш тривожний ринок, який дослідники виявили, — це послуги з генерації оголених зображень. Один оператор рекламував: «Я можу зробити будь-яку дівчину оголеною за допомогою ШІ… 1 Фото = 1$, 10 Фото = 8$, 50 Фото = 40$, 90 Фото = 75$». Нічого складного у цьому немає. Це той самий низькомаржинальний, високоволюмний шахрайський бізнес, що працював у спам-індустрії протягом двох десятиліть, тепер з трохи кращими інструментами. Заключна думка дослідників — найзагостреніша. Найбільший спосіб, яким ШІ може порушити екосистему кіберзлочинності, — це не зробити злочинців більш здатними, а змусити звільнених розробників з легітимних технологій перейти у підпілля у пошуках роботи. «Останнім часом тривога щодо руйнування ринку праці цими інструментами зростає стрімко», — йдеться у статті. «Це може стати найважливішим способом, яким генеративні інструменти ШІ порушують екосистему кіберзлочинності — масові звільнення, економічний спад і холодний ринок праці змушують легітимних, більш кваліфікованих розробників переходити у підпілля до схем швидкого збагачення, шахрайства та кіберзлочинності.»