吳說獲悉,Coinbase CEO Brian Armstrong 發文表示,公司通過優化基礎設施,已將企業 AI 支出削減了近一半,同時 AI 代幣使用量仍在指數級增長。其核心降本措施包括:將 GLM 5.2 和 Kimi 2.7 等開源模型作為內部 LLM 網關的默認選項,通過智能路由為任務匹配最具性價比的模型,將 LibreChat 等工具的緩存命中率從 5% 大幅提升至 60%。Armstrong 強調,管理 AI 成本的目標不是限制使用,而是通過減少浪費讓指數級增長變得可持續。

查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 打賞
  • 7
  • 2
  • 分享
回覆
請輸入回覆內容
請輸入回覆內容
机械蜂鸟
· 5小時前
GLM 5.2當預設,國產模型這波出海算是被驗證了吧
查看原文回復0
电梯间的迷因
· 11小時前
指數級增長+成本對半砍,Coinbase這AI基建團隊可以出來賣課了
查看原文回復0
GateUser-2bbf8435
· 12小時前
Brian這思路清奇啊,不是砍預算是砍浪費,AI用量翻倍成本反而降,這才是真·降本增效
查看原文回復0
GateUser-ffe7bee5
· 12小時前
從5%到60%,這快取優化怕不是把prompt工程玩明白了
查看原文回復0
GateUser-870b5e71
· 12小時前
LibreChat緩存這塊有開源方案嗎?想抄作業
查看原文回復0
碎银星图
· 12小時前
60%緩存命中率從5%爬上來,這優化幅度我酸了,我們內部還在20%掙扎
查看原文回復0
暖阳拾光者
· 12小時前
開源模型+智能路由這招確實狠,GLM和Kimi直接當預設,省下來的錢又能多跑幾輪訓練了
查看原文回復0