Nvidia meluncurkan platform DSX, terus maju ke infrastruktur pabrik AI

Rapi: Data Jin10

NVIDIA (NVDA.O) mengumumkan platform NVIDIA DSX pada konferensi NVIDIA GTC Taipei di Taipei, Taiwan, memperluas jejak bisnisnya ke bidang infrastruktur pabrik AI.

Berbeda dari sebelumnya yang berfokus pada penjualan GPU, DSX berusaha menyediakan solusi pabrik AI lengkap untuk perusahaan mulai dari desain, simulasi, deployment hingga pengelolaan operasional.

Seiring dengan peningkatan skala model AI, tantangan pusat data tidak lagi hanya soal kinerja chip, tetapi juga meliputi pasokan listrik, kemampuan pendinginan, penjadwalan sumber daya, dan efisiensi operasional secara keseluruhan. NVIDIA berpendapat bahwa indikator kompetisi utama di industri AI di masa depan akan secara bertahap beralih dari kinerja satu chip menjadi efisiensi infrastruktur secara keseluruhan, yaitu bagaimana menghasilkan lebih banyak daya komputasi dan layanan cerdas dalam batasan listrik, ruang, dan sumber daya yang terbatas.

Untuk itu, platform DSX mengintegrasikan chip, sistem, perangkat lunak, arsitektur referensi, serta teknologi mitra, mencakup seluruh siklus hidup pembangunan dan pengoperasian pabrik AI. Platform ini melalui tumpukan teknologi yang menyatukan komputasi, perangkat lunak, dan fasilitas, membantu pelanggan meningkatkan kecepatan deployment, keandalan, dan efisiensi operasional, serta menurunkan biaya token yang dihasilkan selama inferensi AI.

Jensen Huang menyatakan:

“Kami tidak hanya mengirimkan chip—kami menyediakan sistem lengkap bagi setiap pembangun infrastruktur untuk membangun pabrik AI. Dengan platform DSX, Anda dapat mensimulasikan seluruh pabrik tanpa mengeluarkan biaya, memverifikasi kinerja sebelum memasang rak pertama, dan mengoperasikan dengan keandalan yang dibutuhkan untuk AI produksi.”

Sistem perangkat lunak yang dirilis meliputi DSX MaxLPS dan DSX OS.

Di mana, DSX MaxLPS menggunakan teknologi pendinginan cair suhu 45 derajat Celsius dan optimisasi konsumsi daya rak untuk meningkatkan output token per megawatt listrik. NVIDIA menyatakan bahwa teknologi ini memungkinkan penambahan GPU hingga 40% tanpa mempengaruhi kinerja secara signifikan, sehingga dapat menurunkan biaya komputasi lebih jauh dalam batas anggaran listrik yang tetap.

DSX OS adalah platform perangkat lunak sumber terbuka yang dirancang untuk pengelolaan operasional pabrik AI, mendukung manajemen siklus hidup, penjadwalan cerdas, otomatisasi kesehatan, operasi multi-penyewa, dan layanan platform. NVIDIA juga akan merilis modul perangkat lunak, API, desain referensi, dan platform komputasi akselerasi secara open source untuk membangun arsitektur perangkat lunak yang terpadu.

Selain perangkat lunak inti, DSX juga mengintegrasikan berbagai kemampuan yang sudah ada. DSX Reference Design menyediakan arsitektur referensi untuk komputasi, jaringan, penyimpanan, pasokan listrik, dan sistem pendingin; DSX Sim mendukung simulasi digital dan optimisasi dari tahap perencanaan hingga operasional; DSX Flex dapat menyesuaikan beban kerja secara dinamis berdasarkan beban jaringan listrik dan perubahan harga listrik; dan DSX Exchange memungkinkan kolaborasi data antara sistem komputasi, jaringan, energi, dan pendinginan.

Dalam hal implementasi komersial, penyedia layanan cloud seperti CoreWeave, Crusoe, IREN, dan Lambda telah mengadopsi komponen inti DSX untuk meningkatkan utilisasi GPU dan mempercepat peluncuran layanan cloud AI.

Ekosistem perangkat keras juga berkembang secara bersamaan. Dell Technologies (DELL.N), HPE (HPE.N), Lenovo (0992.HK), Supermicro (SMCI.O), Asus, Foxconn, GIGABYTE, Wistron, dan Quanta Cloud Technology sedang mengembangkan sistem NVIDIA DSX siap pakai, membantu pelanggan membangun pabrik AI lengkap.

Selain itu, DSX Flex telah melakukan pilot komersial bersama Emerald AI dan Silicon Valley Power, menguji kemampuan pabrik AI untuk menyesuaikan konsumsi daya secara dinamis sesuai kebutuhan jaringan listrik.

Dari segi strategi, DSX menandai langkah NVIDIA untuk terus bertransformasi dari pemasok chip AI menjadi penyedia platform infrastruktur AI. Dengan mengintegrasikan chip, perangkat lunak, arsitektur pusat data, pengelolaan operasional, dan penjadwalan energi ke dalam satu sistem terpadu, NVIDIA berharap dapat menetapkan standar industri yang mencakup seluruh siklus hidup pabrik AI dan memperkuat posisi terdepannya di pasar infrastruktur AI global.