Технічна команда ByteDance аналізує безпекові ризики OpenClaw і пропонує рішення для захисту під час роботи Jeddak AgentArmor

robot
Генерація анотацій у процесі

Новини ME: повідомлення від 1 квітня (UTC+8). Нещодавно технічна команда ByteDance запропонувала рішення для захисту під час виконання Jeddak AgentArmor у зв’язку з новими ризиками безпеки, з якими стикається застосунок смарт-агента OpenClaw. У статті зазначено, що основні виклики безпеки OpenClaw зумовлені особливостями його runtime-архітектури, зокрема надмірною довірою до зовнішніх джерел інформації, імовірнісними рішеннями LLM, роботою з надто високими привілеями та відсутністю контрольованих зовнішніх комунікацій. Спираючись на побудовану «тришарову модель просторової взаємодії», команда визначила три типи ключових ризиків: відхилення намірів, перехоплення робочих процесів і витік даних програмного потоку. План Jeddak AgentArmor спрямований на те, щоб забезпечити уніфікований runtime-захист через інтегровану систему «механізмів базової верифікації + підтримки спеціалізованих великомасштабних моделей + периферійного інкапсулювання», реалізувавши три ключові механізми: верифікацію узгодженості намірів, гарантування цілісності керувального потоку та контроль конфіденційності даних потоку. Це має створити для OpenClaw динамічні опорні точки довіри та з першопричини зупинити ризики прихованих атак. (Джерело: InFoQ)

Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріпити