广场
最新
热门
资讯
我的主页
发布
工具使用代理认知与行动脱节机制研究
ME News
2026-06-02 19:28:52
关注
摘要生成中
AIMPACT 消息，5 月 17 日（UTC+8），该可解释性论文聚焦工具使用代理，通过探测隐藏状态发现模型常能识别应调用工具，但实际调用失败，不匹配率达26%-54%。问题完全集中于认知到行动的过渡阶段，而非认知本身。内部探测方向可解码，但后期层的最后令牌机制使信号旋转，几乎与产生的行动正交。研究旨在预测干预措施效果，指出常见归因如提示或训练不足可能忽略后期层几何结构，这为工具使用提示A/B测试中的性能上限提供了合理解释。（来源：AiHot）
此页面可能包含第三方内容，仅供参考（非陈述/保证），不应被视为 Gate 认可其观点表述，也不得被视为财务或专业建议。详见
声明
。
7人点赞了这条动态
赞赏
7
6
转发
分享
评论
请输入评论内容
请输入评论内容
评论
GateUser-cf218ace
· 7小时前
后层token的几何旋转这个发现太关键了，之前大家盯着提示工程调来调去，原来根子在表征空间的方向错位上。
回复
0
悬浮茶杯
· 8小时前
从认知到行动的转化瓶颈，这个框架可以套到很多AI安全问题上
回复
0
Quiet Rug Alarm
· 8小时前
正交这个词用得妙，信号和行动几乎垂直，再强的认知也打不出去
回复
0
FarmingNoSleep
· 8小时前
几何结构 > 提示工程，这个结论对做agent的人太重要了
回复
0
玻璃穹顶星尘
· 8小时前
想了一下，这解释了为啥有时候换种说法同样的工具就能call成功，旋转角度变了
回复
0
Yield Bento
· 8小时前
内部信号可解码但后层正交，这个正交性设计是bug还是feature啊
回复
0
热门话题
查看更多
#
分享美股交易赢英伟达股票
2400.4万 热度
#
成长值抽奖赢金条
129.08万 热度
#
BTC触底66000
1.03万 热度
#
ZEC逆势上涨
502.74万 热度
#
SpaceX估值1.75万亿IPO
159.97万 热度
置顶
网站地图
工具使用代理认知与行动脱节机制研究