幣界網消息,Coinbase CEO Brian Armstrong發文分享了在代幣使用量指數級增長背景下保持AI開支穩定的實踐經驗。他表示,公司並未採取設置使用上限等限制手段,而是通過優化默認模型、智能路由與緩存策略來實現降本增效:在默認模型方面,引入GLM 5.2和Kimi 2.7等開放權重模型以替代昂貴的通用模型;通過路由機制根據任務需求匹配模型;利用緩存預處理與任務會話管理減少Token浪費(緩存命中率從5%提升至60%)。得益於這一系列優化,Coinbase的AI支出已近乎減半,同時Token使用量仍保持增長。
開源模型 + 智能路由 + 快取三板斧,Coinbase 的 AI 成本直接對半砍,Brian Armstrong 這分享值得抄作業。