Coinbase meningkatkan tingkat cache hit LibreChat dari 5% menjadi 60%, menggunakan GLM dan Kimi sebagai gateway default — bukan membatasi penggunaan AI, melainkan membuat pertumbuhan gila ini berkelanjutan. Pola pikir ini jauh lebih baik daripada sekadar memotong anggaran.

Wu Shuo melaporkan bahwa, CEO Coinbase Brian Armstrong menyatakan dalam postingannya, perusahaan telah mengurangi pengeluaran AI perusahaan hampir setengahnya dengan mengoptimalkan infrastruktur, sementara penggunaan token AI masih tumbuh secara eksponensial. Langkah-langkah inti pengurangan biaya meliputi: menjadikan model open-source seperti GLM 5.2 dan Kimi 2.7 sebagai opsi default untuk gateway LLM internal, melalui perutean cerdas untuk mencocokkan tugas dengan model yang paling hemat biaya meningkatkan cache hit rate alat seperti LibreChat dari 5% menjadi 60%. Armstrong menekankan bahwa tujuan mengelola biaya AI bukanlah membatasi penggunaan, melainkan membuat pertumbuhan eksponensial menjadi berkelanjutan dengan mengurangi pemborosan.