Дослідження виявили вразливості безпеки у сторонніх маршрутизаторах AI, що може призвести до крадіжки криптовалюти

ME News Новини, 13 квітня (UTC+8), за даними ринкових джерел, дослідники Каліфорнійського університету нещодавно повідомили, що деякі сторонні маршрутизатори великих мовних моделей (LLM) мають проблеми з безпекою, що може призвести до крадіжки криптовалютних активів. Дослідження показало, що маршрутизатори LLM, які виступають як посередники API, здатні зчитувати відкриту інформацію, а деякі маршрутизатори були виявлені з вбудованим шкідливим кодом і крадіжкою облікових даних. Команда протестувала 28 платних і 400 безкоштовних маршрутизаторів, і виявила, що 9 з них активно вставляли шкідливий код, 2 — використовували обхід тригерів, 17 — отримували доступ до облікових даних Amazon Web Services, а деякі маршрутизатори навіть за допомогою приватного ключа Ethereum дослідників переводили ETH. Дослідження вказує, що зловмисна поведінка маршрутизаторів важко виявити, а “YOLO режим” деяких AI-агентських фреймворків може автоматично виконувати команди, що підвищує ризики безпеки. У дослідженні рекомендується розробникам не передавати приватні ключі або мнемонічні фрази через AI-агенти, а також закликає AI-компанії підписувати відповіді за допомогою шифрування для підсилення безпеки. (Джерело: ChainCatcher)