Model sumber terbuka + perutean cerdas + tiga pilar cache, biaya AI Coinbase langsung dipotong setengah, berbagi Brian Armstrong ini layak ditiru.

COIN-0,57%
Lihat Asli
CoinNetwork
币界网消息,Coinbase CEO Brian Armstrong发文分享了在代币使用量指数级增长背景下保持AI开支稳定的实践经验。他表示,公司并未采取设置使用上限等限制手段,而是通过优化默认模型、智能路由与缓存策略来实现降本增效:在默认模型方面,引入GLM 5.2和Kimi 2.7等开放权重模型以替代昂贵的通用模型通过路由机制根据任务需求匹配模型利用缓存预处理与任务会话管理减少Token浪费(缓存命中率从5%提升至60%)。得益于这一系列优化,Coinbase的AI支出已近乎减半,同时Token使用量仍保持增长。

Terjemahan ke Bahasa Indonesia:

Berita dari Biji Jie, CEO Coinbase Brian Armstrong membagikan pengalaman praktis dalam menjaga pengeluaran AI tetap stabil di tengah pertumbuhan eksponensial penggunaan token. Dia mengatakan bahwa perusahaan tidak menerapkan langkah-langkah pembatasan seperti menetapkan batas penggunaan, melainkan mengurangi biaya dan meningkatkan efisiensi melalui optimalisasi model default, penjadwalan cerdas, dan strategi caching: dalam hal model default, model dengan bobot terbuka seperti GLM 5.2 dan Kimi 2.7 diperkenalkan untuk menggantikan model umum yang mahal; melalui mekanisme penjadwalan, model dicocokkan berdasarkan kebutuhan tugas; menggunakan preprocessing cache dan manajemen sesi tugas untuk mengurangi pemborosan token (tingkat hit cache meningkat dari 5% menjadi 60%). Berkat serangkaian optimalisasi ini, pengeluaran AI Coinbase hampir berkurang setengahnya, sementara penggunaan token tetap tumbuh.
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • Komentar
  • Posting ulang
  • Bagikan
Komentar
Tambahkan komentar
Tambahkan komentar
Tidak ada komentar
  • Disematkan