NSA, CISA и еще три агентства из "Пяти глаз" только что опубликовали совместные рекомендации по безопасности агентного ИИ.


Страница 11: "Двусторонняя интеграция инструментов позволяет инструментам отправлять потенциально произвольные инструкции обратно в LLM."
Страница 12: "Действия агента и процессы принятия решений могут быть непрозрачными, что затрудняет понимание, мониторинг и аудит систем агентного ИИ."
Страница 13: "фрагментированные журналы, непрозрачное
мышление агента и возникающие взаимодействия затрудняют прослеживание пути принятия решений, что усложняет демонстрацию соответствия."
Пять разведывательных агентств предупреждают предприятия, что традиционное ведение журналов не справляется с автономными агентами ИИ.
Проблема аудита теперь официально признана национальной безопасностью.
$DAG $AIAI
DAG-6,57%
Посмотреть Оригинал
post-image
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • комментарий
  • Репост
  • Поделиться
комментарий
Добавить комментарий
Добавить комментарий
Нет комментариев
  • Закреплено