Отчет: Проблемы безопасности становятся главным препятствием для масштабного развертывания ИИ — необходимо «бороться с ИИ с помощью ИИ».

23 июня на 4-й Китайской международной выставке цепочек поставок Ли Жуй, партнер по управленческому консалтингу PwC China, представил отчет «От отравления данных до взлома моделей: перестройка системы безопасности для защиты от новых рисков ИИ» (далее — «Отчет»), в котором в сочетании с масштабным применением ИИ глубоко анализируются такие новые угрозы безопасности, как заражение данных, перехват подсказок и взлом моделей.

«С 2021 года количество инцидентов и ущерба от ИИ растет в геометрической прогрессии», — заявил Ли Жуй. Проблемы безопасности и риска стали главным препятствием для масштабного внедрения агентного ИИ. Почти две трети респондентов назвали безопасность и риски основным барьером для полномасштабного применения агентного ИИ, что значительно превышает долю неопределенности регулирования или технических ограничений, указывая на то, что организации больше всего обеспокоены тем, смогут ли они безопасно внедрять автономные системы в больших масштабах.

Согласно отчету, анализ прошлых инцидентов с ИИ показывает, что более половины из них вызваны преднамеренными злонамеренными действиями человека, в то время как на проблемы безопасности и сбои в самих системах ИИ приходится лишь 21%, и их доля в последние годы продолжает снижаться. В данных за 2025 год доля инцидентов, связанных со злонамеренными действиями, выросла с 37,9% до 57%, что свидетельствует о все более быстром превращении ИИ в оружие.

В отчете перечислены текущие риски ИИ: 1. Взлом ИИ нового уровня, интеллектуальное обнаружение уязвимостей, автоматическое распространение вредоносного кода; 2. Целевые атаки высокого уровня на основе ИИ, более адресный шантаж; 3. Распространение глубоких подделок, частые случаи сложных атак социальной инженерии; 4. Взлом моделей, приводящий к недопустимому выводу, двойное давление на репутацию и соответствие требованиям; 5. Отравление цепочки поставок ИИ, скрытые уязвимости, вызывающие сбои в работе; 6. Алгоритмическая предвзятость, системная дискриминация и социальная несправедливость; 7. Неясное происхождение обучающих данных ИИ, приводящее к нарушению авторских прав; 8. Ошибочные действия воплощенного интеллекта, причиняющие физический вред; 9. Потеря контроля над цепочками задач агентов, необратимые последствия каскадных решений; 10. Ужесточение и фрагментация регулирования ИИ, сложность соблюдения требований в разных юрисдикциях.

Практически по всем типам рисков респонденты отметили значительный разрыв между рисками, которые они считают важными, и теми, для которых они фактически принимают меры по смягчению. Этот разрыв особенно заметен в области нарушения прав интеллектуальной собственности и конфиденциальности, что указывает на то, что осознание рисков растет быстрее, чем внедрение соответствующих мер контроля, процессов и инструментов, что затрудняет своевременное и эффективное управление рисками.

Ли Жуй отметил, что противоборство на машинном уровне вызывает серьезную «асимметрию атаки и защиты»: атаки уже происходят со скоростью ИИ, а защита по-прежнему полагается на ручное блокирование. Традиционные меры защиты бесполезны, необходимо «противопоставить ИИ ИИ», осуществляя защиту как на входе (определение опасных сигналов), так и на выходе (определение недопустимого контента). «Внедрение обнаружения угроз и реагирования на основе ИИ, сетевой изоляции и управления трафиком, обнаружения вредоносного кода и песочниц, а также управления уязвимостями и их оперативного исправления».

Согласно данным, по состоянию на апрель 2026 года более 75 стран/регионов приняли стратегии, политики и нормативные акты, связанные с ИИ. Этические аспекты технологий, прозрачность и подотчетность, соблюдение требований к данным и защита конфиденциальности остаются главными приоритетами глобального регулирования.

(Редактор: Вэнь Цзин)

Ключевое слово: