Brian Armstrong 這波操作屬實教科書級別,不砍預算靠技術硬把 AI 支出壓到腰斬,緩存命中率從 5% 拉到 60% 才是真的降本增效,不是那種一刀切的懶政。

查看原文
币 界 网
幣界網消息,Coinbase CEO Brian Armstrong發文分享了在代幣使用量指數級增長背景下保持AI開支穩定的實踐經驗。他表示,公司並未採取設置使用上限等限制手段,而是通過優化默認模型、智能路由與緩存策略來實現降本增效:在默認模型方面,引入GLM 5.2和Kimi 2.7等開放權重模型以替代昂貴的通用模型;通過路由機制根據任務需求匹配模型;利用緩存預處理與任務會話管理減少Token浪費(緩存命中率從5%提升至60%)。得益於這一系列優化,Coinbase的AI支出已近乎減半,同時Token使用量仍保持增長。
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 打賞
  • 回覆
  • 轉發
  • 分享
回覆
請輸入回覆內容
請輸入回覆內容
暫無回覆
  • 已置頂