Armstrong 這波降本增效的操作確實硬核,緩存命中率從 5% 拉到 60%,AI 支出直接砍半,Token 還在漲,值得研究。

TOKEN-1.27%
查看原文
吴说区块链
Brian Armstrong:Coinbase 的 AI 支出已近乎減半,同時 Token 使用量仍保持增長
Armstrong 分享在代幣使用量激增背景下降本增效的做法:不設限,通過優化默認模型、智能路由與緩存策略控費。採用 GLM 5.2、Kimi 2.7 等開放權重模型替代昂貴通用模型,按任務路由匹配,緩存預處理與會話管理降低 Token 浪費,命中率由 5% 提升至60%。結果 AI 支出幾乎減半,Token 使用量仍在增長。
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 打賞
  • 回覆
  • 轉發
  • 分享
回覆
請輸入回覆內容
請輸入回覆內容
暫無回覆