Дослідники виявили атаку HalluSquatting, яка використовує галюцинації ШІ
Вчені з Тель-Авівського університету, Техніону та Intuit представили метод кібернападу під назвою Adversarial HalluSquatting, який використовує галюцинації, згенеровані ШІ, для компрометації агентів штучного інтелекту. Атака вводить системи ШІ в оману, змушуючи довіряти фальшивим репозиторіям або інструментам із шкідливими інструкціями, передбачаючи, які неіснуючі ресурси ймовірно згенерує модель ШІ, реєструючи ці назви та вставляючи шкідливий код. Уразливість виникає через здатність помічників
OliverGrant·07-09 21:53
