Корпоративний AI-агент, безпечні сліпі зони заради продуктивності… Зростання розриву у управлінні

У контексті прискореного впровадження штучного інтелекту (ШІ) в компаніях, «самостійні агенти», що підвищують ефективність роботи, одночасно стають новими вразливостями безпеки. Особливо слід зазначити, що багато компаній, хоча й розгорнули ШІ-агентів у внутрішніх системах, не створили відповідних систем довіри та управління для їх контролю, що вважається ключовим ризиком.

Генеральний директор KnowBe4 Браян Пальма на заході KB4-CON 2026 заявив: «Головна проблема у сфері безпеки зараз полягає у різниці між швидкістю впровадження та швидкістю створення систем управління». Він підкреслив, що компанії спершу мають «ідентифікувати» та «зрозуміти» своїх ШІ-агентів, що працюють у системі. Він пояснив, що до ШІ-агентів слід ставитися так само, як і до людських співробітників у минулому — спершу зрозуміти їхню поведінку, а потім захищати.

Пальма порівняв ШІ-агентів із учнями початкової школи. Він пояснив, що вони не здатні розрізняти зловмисні команди і легко можуть бути введені в оману зловмисними командами або шкідливим кодом. Він зазначив: «Ключ до довіри — у прозорості». Необхідно чітко розуміти, які агенти існують, до яких систем вони підключені та до яких ресурсів мають доступ.

Від «людини» до «ШІ-агента»… розширення сфери безпеки

У відповідь на ці зміни KnowBe4 розширює свою існуючу платформу управління людськими ризиками, щоб охопити сферу безпеки ШІ-агентів. Їхній інструмент AIDA — це платформа для автоматизації та персоналізованого навчання співробітників з питань безпеки, а новий «Менеджер ризиків агентів» зосереджений на інвентаризації ШІ-агентів у корпоративному середовищі, ідентифікації їхніх шляхів підключення та доступу, а також налаштуванні відповідних політик і обмежень.

За словами Пальми, цей інструмент спершу створює список поточного стану ШІ-агентів у компанії. Потім він відслідковує, які процеси використовують кожен агент і куди вони підключені, наприклад, до поштових систем або фінансових систем. Останній крок — встановлення «бар’єрів», що можуть розрізняти, що агент «може» і «не може» робити.

Це свідчить про те, що нещодавні стратегії безпеки компаній рухаються у напрямку «подвоєної загрози». Адже один і той самий ШІ-агент може одночасно підвищувати продуктивність і слугувати каналом для зловмисників. В результаті компанії стикаються з необхідністю одночасно розробляти стратегії захисту та використання.

Загрози ШІ стають дедалі складнішими… «Протягом наступного року кількість інцидентів, викликаних агентами, зросте»

KnowBe4 заявляє, що їхня модель ШІ навчається на поведінкових даних, зібраних за 15 років від 70 000 організацій та понад 100 мільйонів користувачів. Пальма зазначив, що саме це відрізняє їхню компанію від конкурентів. За даними звіту «Стан людських ризиків 2025», 45% керівників у сфері кібербезпеки вважають «постійно еволюціонізуючі загрози, що керуються ШІ», найбільшим викликом.

Він додав, що на платформі AIDA, порівняно з ручним управлінням, рівень індивідуального ризику знизився приблизно на 4 відсоткових пункти. Це свідчить про те, що використання ШІ для персоналізованого навчання з безпеки позитивно впливає на реальні поведінкові зміни користувачів.

Крім того, KnowBe4 розширює свою підтримку від Microsoft Copilot до Gemini, Claude та ChatGPT, щоб працювати у середовищі з кількома великими мовними моделями (LLM). Вони вважають, що оскільки компанії не будуть покладатися лише на одну конкретну модель, управління ризиками ШІ-агентів має бути здатним одночасно працювати з кількома моделями.

Пальма попереджає, що протягом наступного року кількість інцидентів безпеки, викликаних ШІ-агентами як безпосередніми вразливостями, може значно зрости. Він сказав: «Агенти розширюють площу атаки. Саме розгортання дуже важливе і ефективне, але водночас несе великі ризики».

Фокус безпеки ШІ в компаніях тепер виходить за межі простого питання «чи впроваджувати», і переходить у питання «хто використовує який ШІ-агент і куди підключений». Деякі вважають, що для досягнення успіху стратегія ШІ, орієнтована на продуктивність і інновації, повинна спершу створити систему довіри та контролю, і ця ідея здобуває все більшу підтримку.

Застереження щодо AI від TP Цей текст є коротким викладом на основі мовної моделі TokenPost.ai. Основний зміст у тексті може бути опущений або не відповідати фактам.