Coinbase akan mengganti model AI default ke model sumber terbuka seperti GLM5.2, Kimi2.7, biaya AI berkurang setengah.

robot
Pembuatan abstrak sedang berlangsung
Berita Mars Finance, 28 Juni, CEO Coinbase Brian Armstrong mengungkapkan bahwa perusahaan telah beralih model AI default ke model open source seperti GLM 5.2, Kimi 2.7, dan menggabungkan langkah-langkah seperti routing model cerdas, optimasi cache, dll., sehingga meskipun penggunaan Token terus tumbuh secara eksponensial, pengeluaran AI berhasil dipotong hampir setengahnya.
Brian Armstrong mengatakan bahwa Coinbase tidak lagi bergantung pada pembatasan kuota penggunaan atau pengingat konsumsi untuk mengendalikan biaya, melainkan secara default menggunakan model open source yang lebih murah biayanya, dan hanya memanggil model terdepan dengan kinerja lebih kuat dalam skenario yang diperlukan.
Pada saat yang sama, perusahaan lebih lanjut mengurangi biaya inferensi melalui routing model otomatis, peningkatan hit rate cache, serta penyederhanaan konteks, dan lain-lain.
Perlu dicatat, pernyataan ini muncul tepat saat CEO Anthropic beberapa kali baru-baru ini secara terbuka menyatakan kekhawatiran tentang model open source dan distilasi model.
Praktik Coinbase menunjukkan bahwa dalam aplikasi AI tingkat perusahaan, model open source sedang menjadi pilihan penting yang menggabungkan biaya dan efisiensi.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • Komentar
  • Posting ulang
  • Bagikan
Komentar
Tambahkan komentar
Tambahkan komentar
Tidak ada komentar