吴说获悉,Coinbase CEO Brian Armstrong 发文表示,公司通过优化基础设施,已将企业 AI 支出削减了近一半,同时 AI 代币使用量仍在指数级增长。其核心降本措施包括:将 GLM 5.2 和 Kimi 2.7 等开源模型作为内部 LLM 网关的默认选项,通过智能路由为任务匹配最具性价比的模型将 LibreChat 等工具的缓存命中率从 5% 大幅提升至 60% 。Armstrong 强调,管理 AI 成本的目标不是限制使用,而是通过减少浪费让指数级增长变得可持续。



Terjemahan:

Wu Shuo memperoleh bahwa CEO Coinbase Brian Armstrong mengumumkan bahwa perusahaan telah mengurangi pengeluaran AI perusahaan hampir setengahnya melalui optimalisasi infrastruktur, sementara penggunaan token AI masih tumbuh secara eksponensial. Langkah-langkah utama pengurangan biaya meliputi: menjadikan model open-source seperti GLM 5.2 dan Kimi 2.7 sebagai opsi default untuk gateway LLM internal, melalui perutean cerdas untuk mencocokkan tugas dengan model yang paling hemat biaya, dan meningkatkan tingkat hit cache alat seperti LibreChat dari 5% menjadi 60% secara signifikan. Armstrong menekankan bahwa tujuan pengelolaan biaya AI bukanlah membatasi penggunaan, melainkan membuat pertumbuhan eksponensial menjadi berkelanjutan dengan mengurangi pemborosan.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • Komentar
  • Posting ulang
  • Bagikan
Komentar
Tambahkan komentar
Tambahkan komentar
Tidak ada komentar