CITIC Securities: Peningkatan kapasitas penyimpanan menjadi kebutuhan inti untuk inferensi agen cerdas saat ini, yakin akan tren pertumbuhan penyimpanan

Berita Rakyat Keuangan, 31 Maret, menurut laporan riset dari Citic Securities, AI berevolusi dari “obrolan sederhana” menjadi “agen (Agent)”, mendorong panjang konteks melonjak tajam. Berdasarkan data Epoch AI, jendela konteks terpanjang tumbuh sekitar 30x setiap tahun; kapasitas memori KV Cache dan panjang konteks memiliki hubungan pertumbuhan linear, jauh melampaui laju peningkatan konfigurasi perangkat keras. Saat ini, produsen model skala besar dan produsen perangkat keras terutama mengatasi hambatan daya komputasi dengan cara kuantisasi, penyimpanan berlapis, serta optimalisasi arsitektur model, namun tetap tidak mengubah meledaknya kebutuhan memori. Citic Securities berpendapat bahwa optimasi memori berpotensi menurunkan biaya pembuatan per Token, sehingga selanjutnya mendorong pengguna untuk mengaktifkan konkurensi lebih tinggi dan konteks lebih panjang; total kebutuhan daya komputasi tidak akan berkurang, melainkan justru meningkat. Dengan demikian, peningkatan daya komputasi menjadi kebutuhan inti untuk inferensi Agent pada saat ini, dan mereka secara tegas yakin pada tren pertumbuhan penyimpanan.