Coinbase sangat mahir dalam mengurangi biaya dan meningkatkan efisiensi: membuka model sumber terbuka, membuat perutean cerdas, tingkat cache hit naik dari 5% menjadi 60%, contoh buku teks infrastruktur AI.

COIN-1,04%
Lihat Asli
CoinNetwork
币界网消息,Coinbase首席执行官Brian Armstrong在X平台发文表示,Coinbase通过优化默认设置、路由和缓存策略,在代币使用量持续增长的情况下将AI支出降低近50%。具体措施包括:将默认模型切换至GLM 5.2和Kimi 2.7等开源权重模型,91%员工此前从未触达使用上限在自定义系统中预处理提示词并自动路由至最适合的模型,实现规划与执行任务的差异化处理提升缓存命中率,LibreChat缓存命中率从5%提升至60%精简上下文管理,切换任务时开启新会话并缩小文件上下文范围增强支出可见性,工程师可自由选择模型但需承担相应影响预期。
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • Komentar
  • Posting ulang
  • Bagikan
Komentar
Tambahkan komentar
Tambahkan komentar
Tidak ada komentar
  • Disematkan