Большинство сбоев агентов, которые я вижу, не являются «сбоями рассуждения».


Это сбои маршрутизации полномочий.
Модель выполняет работу, на которую пользователь не дал разрешение:
- рекомендует, когда должна спрашивать
- планирует, когда должна блокировать
- сравнивает, когда должна отвечать узко
- создает черновики/исполняет, когда у нее нет полномочий
- запрашивает недостающую информацию, а затем все равно добавляет дерево решений if/then
Это важнее по мере получения агентами доступа к инструментам.
Ответ MCP: «Может ли агент получить доступ к инструменту?»
Но предприятия также должны знать:
«Был ли агент авторизован для выполнения такого рода работы?»
Я называю это несанкционированной работой — выбросом примитивов.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • комментарий
  • Репост
  • Поделиться
комментарий
Добавить комментарий
Добавить комментарий
Нет комментариев
  • Закреплено