26%-54% невідповідність показує, що модель розуміє, що потрібно робити, але тіло не справляється, порівняння з обертанням сигналу — це надто геніально.

Переглянути оригінал
MeNews
Дослідження механізмів розриву між усвідомленням та діями у використанні інструментів через проксі
Це дослідження з пояснюваності зосереджене на агентських інструментах, виявляючи, що хоча модель може розпізнати необхідність виклику інструменту, фактичний виклик часто провалюється, з рівнем невідповідності від 26% до 54%.
Проблема зосереджена на стадії перетворення когнітивного сприйняття у дію, а не на самій когнітивності.
Внутрішні сигнали можна декодувати, але механізм кінцевих токенів у наступних шарах спричиняє обертання сигналу і майже ортогональність з дією.
Дослідження має на меті прогнозувати ефект втручань, вказуючи, що недосконалі підказки або тренування можуть ігнорувати геометричну структуру пізніх шарів, що пояснює обмеження продуктивності A/B тестів щодо використання інструментів.
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріплено