Bagaimana teknologi pendinginan "air panas" yang inovatif dari NVIDIA dapat menghemat listrik dan air secara signifikan?

NVIDIA server AI generasi baru mengoperasikan cairan pendingin yang dipanaskan hingga 45 derajat Celcius, dengan demikian melewati chiller air es yang paling boros listrik, dan menggunakan radiator kering untuk membuang panas ke luar ruangan. (Ringkasan sebelumnya: Dell bekerja sama dengan NVIDIA meluncurkan server AI 'full liquid cooling'! Pertama kali menggunakan arsitektur Vera Rubin, satu rak dengan 144 GPU, daya komputasi melampaui batas) (Tambahan latar belakang: Revolusi pasokan listrik 800V NVIDIA tidak tertunda! Dikonfirmasi dengan mitra Delta Electronics dan ABB: produksi massal tepat waktu di Q3) Daftar Isi Beralih

• Dari 20kW hingga 140kW, rak yang mencapai batas pendinginan udara
• Pendinginan air panas 45°C, mengapa justru lebih hemat listrik?
• Efisiensi energi 25 kali lipat, hemat air 300 kali lipat Dalam tagihan pusat data, yang rakus bukan hanya GPU, sistem pendingin selama bertahun-tahun mengonsumsi hingga 40% dari total listrik, menjadi salah satu beban terbesar yang menekan keuntungan. Namun server Rubin generasi baru NVIDIA memberikan jawaban yang kontra-intuitif: untuk menghemat listrik, panaskan air terlebih dahulu. Teknologi pendinginan 'air panas' yang baru ini menaikkan suhu operasi cairan pendingin hingga 45 derajat Celcius, meninggalkan akal sehat 'semakin dingin semakin baik'.

Dari 20kW hingga 140kW, rak yang mencapai batas pendinginan udara

Tiga tahun lalu, konsumsi daya satu rak pusat data sekitar 20 kW, cukup ditangani dengan AC biasa dan kipas. Setelah pergantian generasi GPU, angka ini langsung melonjak lebih dari enam kali lipat. Kepadatan rak di fasilitas skala besar kini umumnya melebihi 135 kW, dan total konsumsi daya termal satu rak NVIDIA GB200 NVL72 bahkan mendekati 130 hingga 140 kW. Panas yang dapat dihilangkan oleh kipas memiliki batas fisik. Setelah kepadatan rak melewati ambang tertentu, pendinginan udara bukan lagi masalah efisiensi, tetapi masalah apakah masih bisa berfungsi. Inilah mengapa pendinginan cair menjadi arsitektur default pabrik AI. Ketika chip ditumpuk hingga skala NVL72, satu-satunya cara untuk menghilangkan panas secara real-time adalah dengan membiarkan cairan bersentuhan langsung dengan permukaan chip.

Pendinginan air panas 45°C, mengapa justru lebih hemat listrik?

Inti dari arsitektur pendinginan air adalah mengalirkan cairan pendingin langsung melalui sirip pendingin di permukaan chip, membawa panas keluar dari rak, tanpa lagi menggunakan kipas untuk meniupkan udara sebagai media yang tidak efisien. Cairan pendingin generasi baru Rubin masuk ke chip pada suhu 45°C, setelah menyerap panas keluar sekitar 55°C, sirkuit tertutup penuh, tanpa kipas di dalam sistem, kinerja tidak berkurang. Komponen tunggal yang paling boros listrik di pusat data adalah chiller mekanis (pendingin air es). Sederhananya, ini adalah 'jantung AC' yang menggunakan kompresor untuk mendinginkan air secara paksa. Industri memperkirakan bahwa setiap kenaikan suhu air keluar chiller sebesar 1 derajat dapat menghemat sekitar 4% energi pendinginan; dan dengan melonggarkan suhu air hingga 45°C, ini setara dengan melewatkan tahap kompresor dan beralih ke pendingin kering (dry cooler). Sederhananya, ini adalah perangkat pasif yang hanya menggunakan kipas untuk meniupkan panas dari air panas ke udara luar, tanpa menguapkan air dan tanpa kompresor.

Efisiensi energi 25 kali lipat, hemat air 300 kali lipat

Efeknya tercermin dalam angka yang disebutkan di blog resmi NVIDIA: GB200 NVL72 memiliki efisiensi energi 25 kali lebih tinggi dan efisiensi penggunaan air 300 kali lebih tinggi dibandingkan arsitektur pendinginan udara tradisional; keunggulan efisiensi energi GB300 NVL72 generasi baru bahkan lebih besar hingga 30 kali lipat. Dikonversi ke metrik PUE yang mengukur efisiensi daya pusat data, ini setara dengan memotong sebagian besar konsumsi daya yang tidak efisien. Kesenjangan di sisi penggunaan air lebih jelas. Pendinginan tradisional terutama menggunakan menara pendingin evaporatif. Sederhananya, ini adalah metode pendinginan yang mengandalkan penguapan air untuk membawa panas, efektif, tetapi air yang menguap setiap tahun diukur dalam jutaan galon. Sistem seperti ini mengonsumsi sekitar 2,6 juta galon air per MW per tahun. Dengan mengganti ke pendinginan cair tertutup dan pendingin kering, di zona iklim yang sesuai, penggunaan air dapat ditekan hingga hampir nol, berkurang hingga 100%. Sebuah pusat data skala besar 50 MW, setelah beralih ke infrastruktur pendinginan cair, hanya dari biaya listrik dan air yang terkait pendinginan, dapat menghemat lebih dari $4 juta per tahun.