Техническая команда ByteDance анализирует угрозы безопасности OpenClaw и предлагает решение по обеспечению защиты во время выполнения Jeddak AgentArmor

ME Новостное сообщение от 1 апреля (UTC+8): в последнее время техническая команда ByteDance представила решение для защиты во время выполнения под названием Jeddak AgentArmor в связи с новыми рисками безопасности, с которыми сталкивается приложение OpenClaw. В статье отмечается, что ключевые проблемы безопасности OpenClaw связаны с особенностями его архитектуры во время выполнения, включая чрезмерное доверие внешним источникам данных, вероятностные решения LLM, работу с чрезмерно высокими привилегиями и отсутствие контролируемых внешних коммуникаций. На основе созданной «трёхуровневой модели взаимодействия в пространстве» команда выявила три категории ключевых рисков: отклонение от намерений, перехват рабочих процессов и утечка потоков программных данных. Решение Jeddak AgentArmor предназначено для создания комплексной системы защиты во время выполнения, основанной на «механизме проверки ядра + расширении возможностей с помощью специализированной большой модели + поддержке посредством периферийной обвязки», которая включает три ключевых механизма: проверку согласованности намерений, обеспечение целостности управляющего потока и контроль конфиденциальности потоков данных. Это позволяет построить для OpenClaw динамический якорь доверия и, по сути, пресечь риски скрытых атак в корне. (Источник: InFoQ)