Brian Armstrong:Coinbase 的 AI 支出已近乎减半,同时 Token 使用量仍保持增长

robot
摘要生成中
吴说获悉,Coinbase CEO Brian Armstrong 发文分享了在代币使用量指数级增长背景下保持 AI 开支稳定的实践经验。Armstrong 表示,公司并未采取设置使用上限等限制手段,而是通过优化默认模型、智能路由与缓存策略来实现降本增效:在默认模型方面,引入 GLM 5.2 和 Kimi 2.7 等开放权重模型以替代昂贵的通用模型;通过路由机制根据任务需求匹配模型;利用缓存预处理与任务会话管理减少 Token 浪费(缓存命中率从 5% 提升至 60%)。得益于这一系列优化,Coinbase 的 AI 支出已近乎减半,同时 Token 使用量仍保持增长。
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 5
  • 1
  • 分享
评论
请输入评论内容
请输入评论内容
GateUser-d2b4d9c6
· 2小时前
不设限+智能路由,这思路值得抄作业
回复0
热气球越山
· 2小时前
Token涨支出跌, Armstrong 这波操作教科书
回复0
GateUser-673fb6fa
· 2小时前
GLM 5.2性价比确实能打,我们也在切
回复0
莓果冷钱包
· 2小时前
缓存命中率5%→60%太离谱了,这才是真降本
回复0
GateUser-94818fd0
· 2小时前
开放权重模型现在真香,闭源大厂压力大了
回复0