开源模型 + 智能路由 + 缓存三板斧,Coinbase 的 AI 成本直接对半砍,Brian Armstrong 这分享值得抄作业。

COIN-0.57%
币 界 网
币界网消息,Coinbase CEO Brian Armstrong发文分享了在代币使用量指数级增长背景下保持AI开支稳定的实践经验。他表示,公司并未采取设置使用上限等限制手段,而是通过优化默认模型、智能路由与缓存策略来实现降本增效:在默认模型方面,引入GLM 5.2和Kimi 2.7等开放权重模型以替代昂贵的通用模型通过路由机制根据任务需求匹配模型利用缓存预处理与任务会话管理减少Token浪费(缓存命中率从5%提升至60%)。得益于这一系列优化,Coinbase的AI支出已近乎减半,同时Token使用量仍保持增长。
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
暂无评论