NSA, CISA та ще три агентства з П’яти очей щойно опублікували спільні рекомендації щодо безпеки агентного ШІ.

Сторінка 11: "Двонаправлена інтеграція інструментів дозволяє інструментам надсилати потенційно будь-які інструкції назад до LLM."
Сторінка 12: "Дії агента та процеси прийняття рішень можуть бути непрозорими, що ускладнює розуміння, моніторинг і аудит систем агентного ШІ."
Сторінка 13: "Фрагментовані журнали, непрозоре мислення агента та виникаючі взаємодії ускладнюють шлях прийняття рішень, що ускладнює демонстрацію відповідності."
П’ять розвідувальних агентств повідомляють підприємствам, що традиційне ведення журналів не може наздогнати автономних агентів ШІ.
Проблема аудиту тепер є офіційною національною безпековою проблемою.
$DAG $AIAI