NVIDIA 新一代 AI 服务器将冷却液加热到 45 摄氏度运行,借此跳过最耗电的冰水主机,改用干式散热器将热量排到户外。 (前情提要:戴尔联手 NVIDIA 推出"全液冷"AI 服务器!首次搭载 Vera Rubin 架构,单机柜 144 颗 GPU 算力破表) (背景补充:英伟达 800V 供电革命不延期!与台达电、ABB 合作伙伴确认:Q3 准时量产)
本文目录
Toggle
数据中心的账单上,贪婪的不只是 GPU,冷却系统长年消耗高达 40% 的总用电,是压缩利润最大的负担之一。
不过 NVIDIA 新一代 Rubin 服务器给出了一个反直觉的答案:想省电,先让水变热。新的"热水冷却"散热技术将冷却液运行温度拉高到 45 摄氏度,放弃"越冷越好"的常识。
三年前,一座数据中心机柜的用电量大约落在 20 kW,一般空调加风扇就能打发。GPU 世代交替后,这个数字直接翻了六倍以上,超大规模设施的机柜密度如今普遍超过 135 kW,NVIDIA GB200 NVL72 单一机柜的整体热功耗更逼近 130 至 140 kW。
风扇能吹散的热量有物理上限,机柜密度一旦跨过某个门槛,气冷不再是效率问题,而是能不能运行的问题。这也是为什么液冷成为 AI 工厂的默认架构,芯片一路堆叠到 NVL72 这种规模,唯一能把热量即时带走的方式,只剩下让液体直接接触芯片表面。
水冷架构的核心,是直接让冷却液流过芯片表面的散热鳍片,带走热量后再送出机柜,中间不再靠风扇吹送空气这一层低效率的介质。
Rubin 新世代的冷却液以 45°C 进入芯片,吸热后约以 55°C 流出,全程封闭循环、系统内不装风扇,性能没有打折。
数据中心里最耗电的单一环节,是机械式冰水主机(chiller)。简单来说就是,用压缩机把水强制降温的"空调心脏"。业界估算,冰水主机的出水温度每调高 1 度,大约就能省下 4% 的冷却能耗;而水温一路放宽到 45°C,等于直接跳过压缩机这一关,改用干式散热器(dry cooler)。
简单来说就是,只靠风扇把热水的热量吹散到户外空气、既不蒸发水也不用压缩机的被动装置。
效果反映在 NVIDIA 官方博客指出的数字里:GB200 NVL72 相较传统气冷架构,能效高出 25 倍、用水效率高出 300 倍;新一代 GB300 NVL72 的能效优势更拉大到 30 倍。
换算成衡量数据中心用电效率的 PUE 指标,等于直接砍掉一大截无效能耗。
用水端的落差更直白。传统散热以蒸发式冷却塔为主。简单来说就是,靠水蒸发带走热量的散热方式,效果好,但每年蒸发掉的水以百万加仑计,这类系统每 MW 每年大约要消耗 260 万加仑水。
换成封闭式液冷加干式散热器,在合适气候区可以把用水量压到近乎零,最高减少 100%。一座 50 MW 的超大规模数据中心,换上液冷基础设施后,光是冷却相关的电费与水费,一年就能省下超过 400 万美元。
78.17万 热度
20.32万 热度
798.82万 热度
11.52万 热度
34.41万 热度
NVIDIA 创新的「热水冷」散热技术,如何大幅节电并省水?
NVIDIA 新一代 AI 服务器将冷却液加热到 45 摄氏度运行,借此跳过最耗电的冰水主机,改用干式散热器将热量排到户外。
(前情提要:戴尔联手 NVIDIA 推出"全液冷"AI 服务器!首次搭载 Vera Rubin 架构,单机柜 144 颗 GPU 算力破表)
(背景补充:英伟达 800V 供电革命不延期!与台达电、ABB 合作伙伴确认:Q3 准时量产)
本文目录
Toggle
数据中心的账单上,贪婪的不只是 GPU,冷却系统长年消耗高达 40% 的总用电,是压缩利润最大的负担之一。
不过 NVIDIA 新一代 Rubin 服务器给出了一个反直觉的答案:想省电,先让水变热。新的"热水冷却"散热技术将冷却液运行温度拉高到 45 摄氏度,放弃"越冷越好"的常识。
从 20kW 到 140kW,气冷撞墙的机柜
三年前,一座数据中心机柜的用电量大约落在 20 kW,一般空调加风扇就能打发。GPU 世代交替后,这个数字直接翻了六倍以上,超大规模设施的机柜密度如今普遍超过 135 kW,NVIDIA GB200 NVL72 单一机柜的整体热功耗更逼近 130 至 140 kW。
风扇能吹散的热量有物理上限,机柜密度一旦跨过某个门槛,气冷不再是效率问题,而是能不能运行的问题。这也是为什么液冷成为 AI 工厂的默认架构,芯片一路堆叠到 NVL72 这种规模,唯一能把热量即时带走的方式,只剩下让液体直接接触芯片表面。
45°C 热水冷却,为什么反而更省电?
水冷架构的核心,是直接让冷却液流过芯片表面的散热鳍片,带走热量后再送出机柜,中间不再靠风扇吹送空气这一层低效率的介质。
Rubin 新世代的冷却液以 45°C 进入芯片,吸热后约以 55°C 流出,全程封闭循环、系统内不装风扇,性能没有打折。
数据中心里最耗电的单一环节,是机械式冰水主机(chiller)。简单来说就是,用压缩机把水强制降温的"空调心脏"。业界估算,冰水主机的出水温度每调高 1 度,大约就能省下 4% 的冷却能耗;而水温一路放宽到 45°C,等于直接跳过压缩机这一关,改用干式散热器(dry cooler)。
简单来说就是,只靠风扇把热水的热量吹散到户外空气、既不蒸发水也不用压缩机的被动装置。
25 倍能效、300 倍省水
效果反映在 NVIDIA 官方博客指出的数字里:GB200 NVL72 相较传统气冷架构,能效高出 25 倍、用水效率高出 300 倍;新一代 GB300 NVL72 的能效优势更拉大到 30 倍。
换算成衡量数据中心用电效率的 PUE 指标,等于直接砍掉一大截无效能耗。
用水端的落差更直白。传统散热以蒸发式冷却塔为主。简单来说就是,靠水蒸发带走热量的散热方式,效果好,但每年蒸发掉的水以百万加仑计,这类系统每 MW 每年大约要消耗 260 万加仑水。
换成封闭式液冷加干式散热器,在合适气候区可以把用水量压到近乎零,最高减少 100%。一座 50 MW 的超大规模数据中心,换上液冷基础设施后,光是冷却相关的电费与水费,一年就能省下超过 400 万美元。