26%-54% рівень невідповідності свідчить про те, що модель знає, що їй потрібно робити, але не може цього зробити, і розрив між усвідомленням і діями глибший, ніж уявлялося.

Переглянути оригінал
MeNews
Дослідження механізмів розриву між усвідомленням та діями у використанні інструментів через проксі
Це дослідження з пояснюваності зосереджене на агентських інструментах, виявляючи, що хоча модель може розпізнавати необхідність виклику інструменту, фактичний виклик часто провалюється, з рівнем невідповідності від 26% до 54%.
Проблема зосереджена на стадії перетворення когнітивних знань у дії, а не на самій когнітивній складовій.
Внутрішні сигнали можна декодувати, але механізм кінцевих токенів у наступних шарах спричиняє обертання сигналу і майже ортогональність з дією.
Дослідження має на меті прогнозувати ефект втручання, вказуючи, що недоліки у підказках або тренуванні можуть ігнорувати геометричну структуру наступних шарів, що пояснює обмеження у продуктивності A/B тестів щодо використання інструментів.
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріплено