Техническая команда ByteDance анализирует угрозы безопасности OpenClaw и предлагает решение по обеспечению защиты во время выполнения Jeddak AgentArmor

ME Новости, 1 апреля (UTC+8), в последнее время техническая команда ByteDance представила решение по защите на этапе выполнения под названием Jeddak AgentArmor для приложения OpenClaw агента в связи с новыми угрозами безопасности. В статье указано, что ключевые проблемы безопасности OpenClaw связаны с особенностями его архитектуры во время выполнения, включая чрезмерное доверие внешним источникам данных, вероятностные решения LLM, работу с чрезмерно высокими правами и отсутствие контроля за внешними коммуникациями. На основе построенной «трёхуровневой модели взаимодействия в пространстве» команда выделила три ключевых типа рисков: отклонение от намерений, перехват рабочего процесса и утечка потока данных программы. План Jeddak AgentArmor направлен на то, чтобы обеспечить комплексную систему защит на этапе выполнения с помощью «механизма проверки ядра + поддержки специализированной большой языковой модели + периферийной обвязки», в которой три ключевых механизма — проверка согласованности намерений, обеспечение целостности управляющего потока и контроль конфиденциальности потоков данных — формируют для OpenClaw динамическую доверенную привязку, перекрывая риски скрытых атак по первопричине. (Источник: InFoQ)