AIMPACT повідомлення, 17 травня (UTC+8), ця стаття про пояснюваність зосереджена на інструментах, що використовують агентів, через виявлення прихованих станів модель часто може визначити, що слід викликати інструмент, але фактичний виклик зазнає невдачі, рівень невідповідності становить 26%-54%. Проблема повністю зосереджена на переході від пізнання до дії, а не на самому пізнанні. Внутрішні напрямки виявлення можна декодувати, але механізм останнього токена в пізніх шарах спричиняє обертання сигналу, майже ортогональне до створеної дії. Мета дослідження — передбачити ефективність втручань, вказуючи, що поширені причини, такі як недостатність підказок або тренувань, можуть ігнорувати геометричну структуру пізніх шарів, що дає обґрунтоване пояснення межі продуктивності при A/B тестуванні підказок для використання інструментів. (Джерело: AiHot)

Переглянути оригінал

Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.

Нагородити
подобається
Прокоментувати
Репост
Поділіться

Прокоментувати

Додати коментар

Немає коментарів

Популярні теми
Дізнатися більше
#
ShareYourUSStocksWinNvidia
3.34M Популярність
#
GatePartnersWithAlpacaToBridgeCryptoAndStocks
2.4M Популярність
#
IsraelStrikesIranBTCPlunges
53.18K Популярність
#
ETHPlunges5PercentBelow1800
5.08K Популярність
#
HYPEHitsAllTimeHigh
50.69K Популярність

Закріплено

карта сайту

Дослідження механізмів розриву між усвідомленням та діями у використанні інструментів через проксі

Популярні теми

ShareYourUSStocksWinNvidia

GatePartnersWithAlpacaToBridgeCryptoAndStocks

IsraelStrikesIranBTCPlunges

ETHPlunges5PercentBelow1800

HYPEHitsAllTimeHigh

Закріплено