Công nghệ tản nhiệt "nước nóng lạnh" sáng tạo của NVIDIA làm thế nào để tiết kiệm điện và nước một cách đáng kể?

NVIDIA thế hệ mới của máy chủ AI làm nóng chất làm mát lên 45 độ C để hoạt động, nhờ đó bỏ qua hệ thống làm lạnh nước đá tiêu tốn nhiều điện nhất và chuyển sang sử dụng bộ tản nhiệt khô để xả nhiệt ra ngoài trời. (Tin trước: Dell hợp tác NVIDIA ra mắt máy chủ AI "làm mát toàn bộ bằng chất lỏng"! Lần đầu tiên trang bị kiến trúc Vera Rubin, một tủ rack với 144 GPU đạt hiệu suất vượt trội) (Bối cảnh bổ sung: Cuộc cách mạng cung cấp điện 800V của NVIDIA không bị trì hoãn! Xác nhận với đối tác Delta Electronics và ABB: Sản xuất hàng loạt đúng hạn vào quý 3)

Mục lục bài viết

Toggle

• Từ 20kW đến 140kW, tủ rack chạm tường với làm mát bằng không khí
• Làm mát bằng nước nóng 45°C, tại sao lại tiết kiệm điện hơn?
• Hiệu suất năng lượng gấp 25 lần, tiết kiệm nước gấp 300 lần

Trên hóa đơn của trung tâm dữ liệu, thứ tham lam không chỉ là GPU, hệ thống làm mát từ lâu đã tiêu thụ tới 40% tổng lượng điện, là một trong những gánh nặng lớn nhất làm giảm lợi nhuận.

Tuy nhiên, máy chủ Rubin thế hệ mới của NVIDIA đưa ra một câu trả lời trái ngược: Muốn tiết kiệm điện, hãy làm nước nóng lên. Công nghệ tản nhiệt "làm mát bằng nước nóng" mới nâng nhiệt độ hoạt động của chất làm mát lên 45 độ C, từ bỏ quan niệm thông thường "càng lạnh càng tốt".

Từ 20kW đến 140kW, tủ rack chạm tường với làm mát bằng không khí

Ba năm trước, lượng điện tiêu thụ của một tủ rack trung tâm dữ liệu vào khoảng 20 kW, có thể xử lý bằng điều hòa không khí và quạt thông thường. Sau khi các thế hệ GPU thay đổi, con số này đã tăng gấp sáu lần trở lên, mật độ tủ rack trong các cơ sở siêu lớn hiện nay thường vượt quá 135 kW, tổng nhiệt tiêu thụ của một tủ rack NVIDIA GB200 NVL72 đã tiến gần đến 130 đến 140 kW.

Lượng nhiệt mà quạt có thể thổi tan có giới hạn vật lý, một khi mật độ tủ rack vượt qua một ngưỡng nhất định, làm mát bằng không khí không còn là vấn đề hiệu quả, mà là vấn đề có thể hoạt động hay không. Đây cũng là lý do tại sao làm mát bằng chất lỏng trở thành kiến trúc mặc định của các nhà máy AI, khi chip xếp chồng lên đến quy mô NVL72, cách duy nhất để đưa nhiệt đi kịp thời là để chất lỏng tiếp xúc trực tiếp với bề mặt chip.

Làm mát bằng nước nóng 45°C, tại sao lại tiết kiệm điện hơn?

Cốt lõi của kiến trúc làm mát bằng nước là trực tiếp cho chất làm mát chảy qua các cánh tản nhiệt trên bề mặt chip, mang nhiệt đi rồi đưa ra khỏi tủ rack, không còn dựa vào quạt thổi không khí như một lớp môi trường trung gian kém hiệu quả.

Chất làm mát thế hệ mới Rubin đi vào chip ở 45°C, sau khi hấp thụ nhiệt sẽ ra ở khoảng 55°C, toàn bộ vòng kín, không có quạt trong hệ thống, hiệu suất không bị giảm.

Mắt xích tiêu tốn nhiều điện nhất trong trung tâm dữ liệu là máy làm lạnh nước đá cơ khí (chiller). Nói một cách đơn giản, đó là "trái tim điều hòa không khí" dùng máy nén để làm lạnh nước cưỡng bức. Ngành ước tính, cứ mỗi lần tăng nhiệt độ nước đầu ra của máy làm lạnh nước đá lên 1 độ, có thể tiết kiệm khoảng 4% năng lượng làm mát; và khi nhiệt độ nước được nới lỏng lên đến 45°C, tức là bỏ qua trực tiếp máy nén, chuyển sang sử dụng bộ tản nhiệt khô (dry cooler).

Nói một cách đơn giản, đó là thiết bị thụ động chỉ dùng quạt để thổi nhiệt của nước nóng ra không khí bên ngoài, không làm bay hơi nước cũng không cần máy nén.

Hiệu suất năng lượng gấp 25 lần, tiết kiệm nước gấp 300 lần

Hiệu quả được phản ánh trong các con số mà blog chính thức của NVIDIA chỉ ra: GB200 NVL72 so với kiến trúc làm mát bằng không khí truyền thống, hiệu suất năng lượng cao hơn 25 lần, hiệu quả sử dụng nước cao hơn 300 lần; lợi thế hiệu suất năng lượng của GB300 NVL72 thế hệ mới còn được mở rộng lên 30 lần.

Quy đổi thành chỉ số PUE đo lường hiệu quả sử dụng điện của trung tâm dữ liệu, tức là trực tiếp cắt giảm một phần lớn năng lượng tiêu thụ vô ích.

Sự chênh lệch về lượng nước sử dụng còn rõ ràng hơn. Tản nhiệt truyền thống chủ yếu là tháp làm mát bay hơi. Nói một cách đơn giản, đó là cách tản nhiệt dựa vào sự bay hơi của nước để mang nhiệt đi, hiệu quả tốt, nhưng lượng nước bay hơi mỗi năm tính bằng triệu gallon, các hệ thống này mỗi MW mỗi năm tiêu thụ khoảng 2,6 triệu gallon nước.

Chuyển sang làm mát bằng chất lỏng kín kết hợp với bộ tản nhiệt khô, ở các khu vực khí hậu phù hợp có thể giảm lượng nước sử dụng xuống gần bằng 0, giảm tối đa 100%. Một trung tâm dữ liệu siêu lớn 50 MW, sau khi chuyển đổi cơ sở hạ tầng làm mát bằng chất lỏng, chỉ riêng chi phí điện và nước liên quan đến làm mát, mỗi năm có thể tiết kiệm hơn 4 triệu đô la Mỹ.