NVDA丨黃仁勳: Pusat data akan menjadi pabrik token kecerdasan buatan

Perusahaan chip Amerika NVIDIA CEO Jensen Huang mengumumkan dalam acara tahunan AI GTC pada hari Senin, mendefinisikan konsep “pabrik token”, menyatakan bahwa pusat data di masa depan tidak lagi akan menjadi pusat penyimpanan, melainkan pabrik yang memproduksi token cerdas.

Huang mengumumkan bahwa permintaan komputasi memasuki tahap pertumbuhan pesat, memperkirakan kebutuhan daya komputasi dari saat ini hingga 2027 akan meningkat dari 500 miliar dolar menjadi 1 triliun dolar. Dia mengatakan bahwa permintaan terhadap produk terbaru NVIDIA sangat tinggi, dan setiap perusahaan utama di bidang komputasi sedang memanfaatkan teknologi NVIDIA untuk pengembangan.

Huang menegaskan bahwa melalui “desain kolaboratif” ekstrem, biaya token per unit NVIDIA telah mencapai tingkat dunia yang tak tertandingi, memaksa para pemimpin global untuk mengelola tingkat produksi token seperti mengelola aset. NVIDIA jauh lebih dari sekadar perusahaan semikonduktor, kisah pertumbuhan perusahaan baru saja dimulai, “kami akan mempercepat perkembangan semua orang.”

NVIDIA juga mengungkapkan arsitektur generasi berikutnya bernama Vera Rubin, yang menggunakan desain pendingin cair penuh, memperkenalkan CPU Vera yang dioptimalkan untuk tugas cerdas, dengan terobosan utama dalam mengintegrasikan teknologi prosesor aliran deterministik dari tim Groq, melalui perangkat lunak Dynamo untuk mewujudkan “penalaran yang terlepas”, memanfaatkan memori besar Rubin untuk memproses konteks kompleks, dan menggunakan chip Groq untuk menghasilkan token dengan kecepatan luar biasa, kombinasi ini memungkinkan kecepatan pembuatan token di pabrik berskala gigawatt meningkat hingga 350 kali lipat.