Звіт: проблеми безпеки стали головною перешкодою для масштабного розгортання ШІ, необхідно «боротися з ШІ за допомогою ШІ».

23 червня на 4-й Міжнародній виставці ланцюгів поставок Китаю партнер PwC China з управлінського консалтингу Лі Жуй опублікував звіт «Від отруєння даних до втечі моделі: перебудова системи безпеки для захисту від нових ризиків ШІ» (далі — «звіт»), який глибоко аналізує нові ризики безпеки, такі як забруднення даних, перехоплення підказок, втеча моделей тощо в контексті масштабного застосування штучного інтелекту.

«З 2021 року кількість інцидентів і шкоди від ШІ зростає експоненційно», — заявив Лі Жуй. Проблеми безпеки та ризику стали головним бар’єром для масштабного впровадження агентного ШІ. Майже 2/3 респондентів вважають питання безпеки та ризику основною перешкодою для повного розширення використання агентного ШІ, що значно перевищує регуляторну невизначеність або технічні обмеження. Це свідчить про те, що організації більше стримуються через впевненість у безпечному масштабному розгортанні автономних систем.

Згідно зі звітом, на основі аналізу минулих інцидентів ризиків ШІ понад половина з них спричинена навмисними зловмисними діями людей. Частка проблем безпеки та збоїв у самих системах ШІ становить лише 21%, і останніми роками вона відносно знижується. У даних за 2025 рік частка подій, пов’язаних із зловмисниками, зросла з 37,9% до 57%, що свідчить про те, що ШІ дедалі швидше озброюється.

Звіт перераховує поточні ризики ШІ: 1) хакери ШІ вдосконалюються, розумно знаходять вразливості та автоматично поширюють шкідливий код; 2) ШІ здійснює точні високорівневі атаки, роблячи вимагання більш цілеспрямованим; 3) поширення глибоко фейкового контенту, часті складні атаки соціальної інженерії; 4) втеча моделі спричиняє порушення вихідних даних, подвійний тиск на репутацію та відповідність; 5) отруєння ланцюга поставок ШІ, приховані вразливості призводять до збоїв у бізнесі; 6) алгоритмічне упередження, системна дискримінація та соціальна несправедливість; 7) незрозуміле походження даних навчання ШІ, що спричиняє порушення авторських прав; 8) помилкове виконання втіленого інтелекту, що призводить до фізичних і тілесних ушкоджень; 9) втрата контролю над ланцюгом завдань агента, каскадні рішення призводять до незворотних наслідків; 10) посилення та фрагментація регулювання ШІ, складність дотримання норм у різних сферах.

Майже в усіх типах ризиків респонденти зазначили, що існує значний розрив між ризиками, які вони вважають важливими, та тими, для яких фактично застосовуються заходи пом'якшення. Цей розрив особливо помітний у сфері порушення прав інтелектуальної власності та конфіденційності, що свідчить про те, що швидкість підвищення обізнаності про ризики перевищила темпи впровадження відповідних контрольних заходів, процесів та інструментів, що ускладнює своєчасне та ефективне управління ризиками.

Лі Жуй зазначив, що протистояння на рівні машин призводить до серйозної «асиметрії атаки та захисту». Атаки вже на швидкості інтелекту, а захист покладається на ручне блокування, традиційні заходи захисту є фіктивними. Необхідно «протистояти ШІ за допомогою ШІ», здійснювати контроль ризиків на вхідній та вихідній сторонах: на вході визначати наявність небезпечних сигналів, на виході — наявність порушень. «Впроваджувати виявлення та реагування на загрози на основі ШІ, мережеву ізоляцію та контроль трафіку, виявлення шкідливого коду та аналіз у пісочниці, а також управління вразливостями та виправлення в реальному часі».

Дані показують, що станом на квітень 2026 року понад 75 країн/регіонів у світі прийняли стратегії, політики та нормативні акти, пов’язані зі штучним інтелектом. Технологічна етика, прозорість і підзвітність, дотримання вимог до даних та захист конфіденційності залишаються ключовими напрямками глобального регулювання.

(Редактор: Вень Цзін)

Ключові слова: