吴说获悉,Coinbase CEO Brian Armstrong 发文表示,公司通过优化基础设施,已将企业 AI 支出削减了近一半,同时 AI 代币使用量仍在指数级增长。其核心降本措施包括:将 GLM 5.2 和 Kimi 2.7 等开源模型作为内部 LLM 网关的默认选项,通过智能路由为任务匹配最具性价比的模型将 LibreChat 等工具的缓存命中率从 5% 大幅提升至 60% 。Armstrong 强调,管理 AI 成本的目标不是限制使用,而是通过减少浪费让指数级增长变得可持续。

此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 7
  • 2
  • 分享
评论
请输入评论内容
请输入评论内容
机械蜂鸟
· 5小时前
GLM 5.2当默认,国产模型这波出海算是被验证了吧
回复0
电梯间的迷因
· 11小时前
指数级增长+成本对半砍,Coinbase这AI基建团队可以出来卖课了
回复0
GateUser-2bbf8435
· 11小时前
Brian这思路清奇啊,不是砍预算是砍浪费,AI用量翻倍成本反而降,这才是真·降本增效
回复0
GateUser-ffe7bee5
· 12小时前
从5%到60%,这缓存优化怕不是把prompt工程玩明白了
回复0
GateUser-870b5e71
· 12小时前
LibreChat缓存这块有开源方案吗?想抄作业
回复0
碎银星图
· 12小时前
60%缓存命中率从5%爬上来,这优化幅度我酸了,我们内部还在20%挣扎
回复0
暖阳拾光者
· 12小时前
开源模型+智能路由这招确实狠,GLM和Kimi直接当默认,省下来的钱又能多跑几轮训练了
回复0