Analis: Kimi K3 meningkatkan efisiensi komputasi, namun kebutuhan memori berkapasitas tinggi tetap mendorong permintaan chip AI

深潮 TechFlow 消息，20 Juli, menurut pandangan analis Sunny Bangia, peluncuran Kimi K3 turut memicu kekhawatiran bahwa daya komputasi AI bisa berada di bawah ekspektasi, serupa dengan DeepSeek R1 yang akan diluncurkan pada 2025. Namun, perbandingan seperti ini kemungkinan mengabaikan perbedaan penting. Meski model seperti Kimi K3 ditujukan agar lebih efisien memanfaatkan sumber daya komputasi, saat dijalankan mereka tetap membutuhkan memori dalam jumlah besar. Ciri ini berpotensi terus mendukung kebutuhan dari perusahaan seperti SK Hynix, TSMC, dan NVIDIA.

Kimi K3 memiliki 2,8 triliun parameter, dengan tingkat sparsity mencapai rekor baru. Sparsity yang lebih tinggi berarti jumlah parameter yang diaktifkan dalam setiap tugas relatif lebih sedikit dibanding ukuran total model, sehingga menghasilkan efisiensi komputasi yang lebih tinggi pada setiap token. Parameter hanyalah angka yang tersimpan di memori. Bahkan jika menggunakan format data presisi rendah untuk mengompresi model, parameter Kimi K3 tetap akan memakan sekitar 1,4 terabyte memori. Penggunaan K3 sendiri akan memunculkan kebutuhan untuk peningkatan chip silikon berkapasitas memori tinggi, misalnya Blackwell GB300 dari NVIDIA. (Jin10)