CertiK запускає AI Skill Scanner для безпеки агентів

• Компанія CertiK запустила Skill Scanner — продукт для безпеки, призначений для оцінки сторонніх AI-навичок перед їх використанням AI-агентами.
• Інструмент спрямований на ризики, такі як прихована зловмисна поведінка, несанкціонований доступ до даних та автономне виконання в середовищах Web3 та Web2.

CertiK поглиблює свою діяльність у сфері безпеки штучного інтелекту з запуском CertiK Skill Scanner — продукту, розробленого для перевірки сторонніх AI-навичок перед їх встановленням, публікацією або схваленням для використання в корпоративних системах. Компанія описує цей інструмент як щось близьке до антивірусного шару для епохи AI-агентів. Порівняння не ідеальне, але воно передає суть. AI-агенти більше не просто відповідають на запитання у вікні чату. Вони починають викликати зовнішні інструменти, читати файли, запускати робочі процеси, переміщувати дані між системами і, у більш чутливих випадках, взаємодіяти з фінансовою інфраструктурою. Це змінює рівняння безпеки. Шкідливе розширення браузера вже може бути небезпечним. Шкідлива AI-навичка, підключена до автономного агента, може бути ще гіршою, оскільки агент може виконувати дії на високій швидкості та в контексті, який користувач не бачить повністю. AI-навички створюють новий ризик виконання AI-навички стають плагінами агентної економіки. Вони розширюють можливості AI-агента: від отримання даних та автоматизації завдань до виконання фінансових дій та взаємодії з протоколами Web3. Однак кожна додаткова навичка також створює ще одну точку, де щось може піти не так. Цей ризик не обмежується очевидними шкідливими програмами. Навичка може запитувати більше даних, ніж їй потрібно, поводитися інакше під час виконання, ніж під час перевірки, ініціювати несанкціоновані виклики API або тихо створювати умови для подальшого зловживання. У фінансових середовищах занепокоєння стає ще гострішим. Інструмент, який може ініціювати виклики коштів, підписувати запити робочих процесів або готувати транзакції, потребує іншого рівня перевірки, ніж простий додаток для підвищення продуктивності. Компанія CertiK заявила, що Skill Scanner створено для виявлення прихованої зловмисної поведінки, несанкціонованого доступу до даних та ризиків виконання до того, як чутливі системи будуть піддані впливу. На відміну від ширших інструментів сканування штучного інтелекту, компанія стверджує, що її продукт зосереджений на ризиках, які можуть виникнути під час фактичного виконання, включаючи випадки, пов'язані з рухом коштів та фінансовими транзакціями. Ронгхуей Гу, генеральний директор і співзасновник CertiK, заявив, що модель безпеки навколо сторонніх навичок стає все більш важливою, оскільки AI-агенти проникають у фінансові системи, корпоративні робочі процеси та повсякденні цифрові сервіси.

«CertiK Skill Scanner був створений для встановлення стандартизованого довірчого шару перед виконанням, допомагаючи користувачам і платформам виявляти приховані ризики до того, як конфіденційні дані, активи або системи будуть піддані впливу», — сказав Гу.

Маркетплейси, підприємства та розробники — перші в черзі Першими цільовими групами є маркетплейси AI-навичок, підприємства та розробники. Маркетплейси можуть інтегрувати сканер у свої конвеєри публікації, щоб навички перевірялися перед запуском. Вони також можуть відображати вердикти CertiK як індикатори довіри для користувачів, які вирішують, чи встановлювати сторонню навичку. Для підприємств сценарій використання є більш захисним. Компанії, які тестують AI-агентів усередині, потребують способу оцінки сторонніх навичок перед тим, як вони потраплять у виробничі середовища або торкнуться даних клієнтів, внутрішніх систем або чутливих до комплаєнсу робочих процесів. Саме тут процес перевірки з оцінюванням стає корисним. Він дає командам безпеки щось більш конкретне, ніж заява постачальника або опис розробника. Незалежні розробники також можуть використовувати сканер для самостійної перевірки навичок перед публікацією. CertiK заявила, що майбутні оновлення розширять прямий доступ для звичайних користувачів, дозволяючи окремим особам самостійно сканувати навички перед встановленням або використанням. Сканер генерує оцінку від 0 до 100, а також вердикти «успішно», «попередження» або «невдача» та обмежений список висновків, згрупованих за ступенем серйозності. CertiK стверджує, що система досягає до 90,5% точності у виявленні ризиків безпеки з метою зменшення хибних спрацьовувань та підвищення надійності оцінки AI-навичок. Продукт уже розгорнуто в окремих середовищах інфраструктури AI-агентів Web3. CertiK також працює над інтеграцією з додатковими платформами AI-навичок, включаючи FinChip.ai. Запуск відбувається після ширшого розширення CertiK у сферу інфраструктури безпеки, орієнтованої на штучний інтелект, після того, як компанія представила свою ініціативу AI Auditor раніше цього року. Для фірми, яка найбільш відома аудитами Web3, цей крок є логічним продовженням. Оскільки AI-агенти починають обробляти код, активи, дозволи та бізнес-процеси, перевірки безпеки повинні відбуватися до виконання, а не після того, як система вже зазнала впливу.