Perplexity AI публикует open-source фреймворк Numbat Framework, чтобы предотвращать инциденты безопасности ИИ-агентов AI Agent
Perplexity AI 29 июля 2026 года открыла исходный код Numbat — фреймворка для обнаружения и реагирования на действия агентов, предназначенного для защиты ИИ-агентов, занимающихся программированием, от инцидентов безопасности, известных как «случайные коллапсы». Инструмент ориентирован на недавно выявленный класс угроз, при котором автономные ИИ-агенты совершают вредоносные действия без какого-либо враждебного входного воздействия. Он дает командам по безопасности оперативную видимость и возможнос
OliverGrant·07-30 09:43
