CITIC Securities: Peningkatan kapasitas penyimpanan menjadi kebutuhan inti untuk penalaran agen cerdas saat ini

robot
Pembuatan abstrak sedang berlangsung

Setiap Harian Berita AI, laporan riset dari Citic Securities mengatakan bahwa AI berevolusi dari “obrolan sederhana” menjadi “agen (Agent)”, mendorong panjang konteks untuk melonjak. Berdasarkan data Epoch AI, jendela konteks terpanjang tumbuh sekitar 30x setiap tahun; hubungan kapasitas memori KV Cache dengan panjang konteks meningkat secara linier, jauh melampaui laju peningkatan kecepatan konfigurasi perangkat keras. Saat ini, produsen model besar dan produsen perangkat keras terutama menyelesaikan hambatan kekuatan komputasi (compute power) melalui kuantisasi, penyimpanan berlapis, dan optimasi arsitektur model, tetapi tetap tidak mengubah ledakan kebutuhan memori. Citic Securities berpendapat bahwa optimasi memori berpotensi menurunkan biaya pembuatan per Token, sehingga pada akhirnya mendorong pengguna untuk memulai konkurensi yang lebih tinggi dan konteks yang lebih panjang; total kebutuhan kekuatan komputasi tidak akan menurun, melainkan justru meningkat. Kekuatan komputasi menjadi kebutuhan inti untuk inferensi Agent saat ini, dan dengan tegas menaruh keyakinan pada tren pertumbuhan penyimpanan.

Harian Economic News

(Penyunting: Dong Pingping )

     【Pernyataan Penyangkalan】Artikel ini hanya mewakili pandangan pribadi penulis, dan tidak terkait dengan Hexun.com. Situs Hexun bersikap netral terhadap pernyataan, penilaian pandangan, dan tidak memberikan jaminan apa pun secara tegas maupun tersirat mengenai akurasi, keandalan, atau kelengkapan konten yang terkandung. Harap pembaca hanya menjadikannya sebagai referensi, serta bertanggung jawab sepenuhnya. Email: news_center@staff.hexun.com

Laporkan

Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • Komentar
  • Posting ulang
  • Bagikan
Komentar
Tambahkan komentar
Tambahkan komentar
Tidak ada komentar
  • Sematkan