CertiK запускає ШІ-сканер навичок для безпеки агентів

• CertiK запустив Skill Scanner — продукт для безпеки, призначений для оцінки сторонніх AI-навичок перед їх використанням AI-агентами.
• Інструмент націлений на такі ризики, як прихована шкідлива поведінка, несанкціонований доступ до даних та автономне виконання в середовищах Web3 та Web2.

CertiK поглиблює свою присутність у сфері безпеки ШІ з запуском CertiK Skill Scanner — продукту, призначеного для перевірки сторонніх AI-навичок перед їх встановленням, публікацією або схваленням для використання в корпоративних системах. Компанія описує інструмент як щось наближене до антивірусного шару для ери AI-агентів. Порівняння не ідеальне, але воно передає суть. AI-агенти більше не просто відповідають на запитання у вікні чату. Вони починають викликати зовнішні інструменти, читати файли, запускати робочі процеси, переміщати дані між системами та, у більш чутливих випадках, взаємодіяти з фінансовою інфраструктурою. Це змінює рівняння безпеки. Погане розширення браузера вже може бути небезпечним. Погана AI-навичка, підключена до автономного агента, може бути ще гіршою, оскільки агент може виконувати дії швидко та в контексті, якого користувач не бачить повністю. AI-навички створюють новий ризик виконання AI-навички стають плагінами економіки агентів. Вони розширюють можливості AI-агента: від отримання даних та автоматизації завдань до виконання фінансових дій та взаємодії з протоколами Web3. Однак кожна додаткова навичка також створює ще одну точку, де щось може піти не так. Цей ризик не обмежується очевидним шкідливим програмним забезпеченням. Навичка може запитувати більше даних, ніж їй потрібно, поводитися інакше під час виконання, ніж під час перевірки, ініціювати несанкціоновані виклики API або тихо створювати умови для подальшого зловживання. У фінансовому середовищі занепокоєння стає ще гострішим. Інструмент, який може ініціювати виклики фондів, підписувати запити робочих процесів або готувати транзакції, потребує іншого рівня перевірки, ніж простий додаток для продуктивності. CertiK заявив, що Skill Scanner створений для виявлення прихованої шкідливої поведінки, несанкціонованого доступу до даних та ризиків виконання до того, як чутливі системи будуть піддані впливу. На відміну від ширших інструментів сканування ШІ, компанія стверджує, що її продукт зосереджений на ризиках, які можуть виникнути під час фактичного виконання, включаючи випадки, пов'язані з рухом коштів та фінансовими транзакціями. Ронхуй Гу, генеральний директор та співзасновник CertiK, заявив, що модель безпеки навколо сторонніх навичок стає все більш важливою, оскільки AI-агенти переходять у фінансові системи, корпоративні робочі процеси та повсякденні цифрові сервіси.

«CertiK Skill Scanner був створений для створення стандартизованого рівня довіри перед виконанням, допомагаючи користувачам та платформам виявляти приховані ризики до того, як чутливі дані, активи або системи будуть піддані впливу», — сказав Гу.

Ринки, підприємства та розробники — перші в черзі Першими цільовими групами є ринки AI-навичок, підприємства та розробники. Ринки можуть інтегрувати сканер у свої конвеєри публікації, щоб навички перевірялися перед запуском. Вони також можуть відображати вердикти CertiK як індикатори довіри для користувачів, які вирішують, чи встановлювати сторонню навичку. Для підприємств варіант використання є більш оборонним. Компанії, які тестують AI-агентів внутрішньо, потребують способу оцінки сторонніх навичок до того, як вони потраплять у виробниче середовище або торкнуться даних клієнтів, внутрішніх систем або чутливих до комплаєнсу робочих процесів. Саме тут корисним стає процес перевірки з оцінкою. Він дає командам безпеки щось більш конкретне, ніж заява постачальника або опис розробника. Незалежні розробники також можуть використовувати сканер для самостійного аудиту навичок перед публікацією. CertiK заявив, що майбутні оновлення розширять прямий доступ для звичайних користувачів, дозволяючи окремим особам самостійно сканувати навички перед встановленням або використанням. Сканер видає оцінку від 0 до 100, а також вердикти «пройдено», «попередження» або «не пройдено» і обмежений список висновків, згрупованих за серйозністю. CertiK стверджує, що система досягає до 90,5% точності у виявленні ризиків безпеки з метою зменшення хибних спрацьовувань та підвищення надійності оцінок AI-навичок. Продукт вже розгорнуто в окремих середовищах інфраструктури AI-агентів Web3. CertiK також працює над інтеграцією з додатковими платформами AI-навичок, включаючи FinChip.ai. Запуск є продовженням ширшого розширення CertiK у сферу інфраструктури безпеки, орієнтованої на ШІ, після того, як компанія представила свою ініціативу AI Auditor раніше цього року. Для фірми, найбільш відомої своїми аудитами Web3, цей крок є логічним продовженням. Оскільки AI-агенти починають обробляти код, активи, дозволи та бізнес-процеси, перевірки безпеки повинні відбуватися до виконання, а не після того, як система вже була піддана впливу.