CertiK запускает AI-сканер навыков для безопасности агентов

• CertiK запустила Skill Scanner, продукт безопасности, созданный для оценки сторонних навыков ИИ до их использования агентами ИИ.
• Инструмент ориентирован на риски, такие как скрытое вредоносное поведение, несанкционированный доступ к данным и автономное выполнение в средах Web3 и Web2.

CertiK углубляется в безопасность ИИ с запуском CertiK Skill Scanner, продукта, предназначенного для проверки сторонних навыков ИИ перед их установкой, публикацией или одобрением для использования внутри корпоративных систем. Компания описывает этот инструмент как что-то близкое к антивирусному слою для эпохи агентов ИИ. Сравнение не идеально, но оно передает суть. Агенты ИИ больше не просто отвечают на вопросы в окне чата. Они начинают вызывать внешние инструменты, читать файлы, запускать рабочие процессы, перемещать данные между системами и, в более чувствительных случаях, взаимодействовать с финансовой инфраструктурой. Это меняет уравнение безопасности. Плохое расширение браузера уже может быть опасным. Плохой навык ИИ, связанный с автономным агентом, может быть еще опаснее, потому что агент может выполнять действия быстро и в контексте, который пользователь полностью не видит. Навыки ИИ создают новый риск выполнения Навыки ИИ становятся плагинами экономики агентов. Они расширяют возможности агента ИИ, от получения данных и автоматизации задач до выполнения финансовых операций и взаимодействия с протоколами Web3. Каждый дополнительный навык, однако, также создает еще одну точку, где что-то может пойти не так. Этот риск не ограничивается очевидным вредоносным ПО. Навык может запрашивать больше данных, чем нужно, вести себя иначе во время выполнения, чем при проверке, инициировать несанкционированные вызовы API или тихо создавать условия для последующего злоупотребления. В финансовых средах опасения становятся еще острее. Инструмент, который может инициировать вызовы фондов, подписывать запросы на рабочие процессы или готовить транзакции, требует другого уровня проверки, чем простое расширение для повышения производительности. CertiK заявил, что Skill Scanner создан для обнаружения скрытого вредоносного поведения, несанкционированного доступа к данным и рисков выполнения до того, как чувствительные системы будут подвержены угрозе. В отличие от более широких инструментов сканирования ИИ, компания говорит, что их продукт сосредоточен на рисках, которые могут возникнуть во время фактического выполнения, включая случаи перемещения фондов и финансовых транзакций. Ронхуи Гу, генеральный директор и соучредитель CertiK, отметил, что модель безопасности вокруг сторонних навыков становится все важнее по мере внедрения агентов ИИ в финансовые системы, корпоративные рабочие процессы и повседневные цифровые сервисы.

“CertiK Skill Scanner был создан для установления стандартизированного слоя доверия перед выполнением, помогая пользователям и платформам выявлять скрытые риски до того, как будут раскрыты чувствительные данные, активы или системы,” сказал Гу.

Рынки, предприятия и разработчики — первые в очереди Первыми целевыми группами являются рынки навыков ИИ, предприятия и разработчики. Рынки могут интегрировать сканер в свои процессы публикации, чтобы навыки проходили проверку перед запуском. Они также могут отображать вердикты CertiK как индикаторы доверия для пользователей, решающих, устанавливать ли сторонний навык. Для предприятий использование более оборонительное. Компании, тестирующие агентов ИИ внутри, нуждаются в способе оценки сторонних навыков перед их внедрением в производственные среды или взаимодействием с данными клиентов, внутренними системами или рабочими процессами, чувствительными к соблюдению требований. В этом случае полезен процесс оценки с баллами. Он дает командам безопасности что-то более конкретное, чем утверждение поставщика или описание разработчика. Независимые разработчики также могут использовать сканер для самопроверки навыков перед публикацией. CertiK заявил, что будущие обновления расширят прямой доступ для обычных пользователей, позволяя им самостоятельно сканировать навыки перед установкой или использованием. Сканер выдает оценку от 0 до 100, а также вердикты «пройдено», «предупреждение» или «не пройдено» и ограниченный список находок, сгруппированных по степени важности. CertiK утверждает, что система достигает до 90,5% точности в выявлении рисков безопасности, стремясь снизить количество ложных срабатываний и сделать оценки навыков ИИ более надежными. Продукт уже был развернут в некоторых инфраструктурах агентов Web3 на базе ИИ. CertiK также работает над интеграциями с дополнительными платформами навыков ИИ, включая FinChip.ai. Запуск следует за более широким расширением CertiK в инфраструктуру безопасности, ориентированную на ИИ, после того как компания представила свою инициативу AI Auditor в начале этого года. Для компании, хорошо известной аудитами Web3, это логичное развитие. По мере того как агенты ИИ начинают управлять кодом, активами, разрешениями и бизнес-рабочими процессами, проверки безопасности должны происходить до выполнения, а не после того, как система уже подверглась угрозе.