Comment la technologie de refroidissement innovante « eau chaude » de NVIDIA permet-elle d'économiser considérablement l'électricité et l'eau ?

NVIDIA refroidit son nouveau serveur IA en chauffant le liquide de refroidissement à 45 °C, contournant ainsi le refroidisseur d'eau glacée le plus énergivore et utilisant un refroidisseur sec pour évacuer la chaleur vers l'extérieur.
(Rappel : Dell s'associe à NVIDIA pour lancer un serveur IA « entièrement refroidi par liquide » ! Première architecture Vera Rubin, 144 GPU par baie avec une puissance de calcul record)
(Contexte : La révolution de l'alimentation 800 V de NVIDIA n'est pas retardée ! Confirmé avec Delta Electronics et ABB : production en série au T3)

Table des matières

Toggle

• De 20 kW à 140 kW, le rack refroidi par air atteint ses limites
• Refroidissement à eau chaude à 45 °C, pourquoi est-il plus économique ?
• 25 fois plus efficace, 300 fois plus d'économie d'eau

Sur la facture du centre de données, les GPU ne sont pas les seuls gourmands : le système de refroidissement consomme jusqu'à 40 % de l'électricité totale depuis des années, constituant l'un des plus lourds fardeaux qui grèvent les marges.

Mais le nouveau serveur Rubin de NVIDIA propose une réponse contre-intuitive : pour économiser l'électricité, commencez par chauffer l'eau. La nouvelle technologie de refroidissement « eau chaude » élève la température du liquide de refroidissement à 45 °C, abandonnant l'idée reçue « plus froid est mieux ».

De 20 kW à 140 kW, le rack refroidi par air atteint ses limites

Il y a trois ans, la consommation électrique d'un rack de centre de données était d'environ 20 kW, ce qu'un climatiseur et des ventilateurs ordinaires pouvaient gérer. Après la transition des générations de GPU, ce chiffre a plus que sextuplé, la densité des racks dans les installations hyperscale dépassant désormais généralement 135 kW, et la puissance thermique totale d'un seul rack NVIDIA GB200 NVL72 approchant 130 à 140 kW.

La quantité de chaleur que les ventilateurs peuvent dissiper a une limite physique. Une fois que la densité des racks franchit un certain seuil, le refroidissement par air n'est plus un problème d'efficacité, mais de faisabilité. C'est pourquoi le refroidissement liquide est devenu l'architecture par défaut des usines d'IA. Avec des puces empilées jusqu'à l'échelle NVL72, le seul moyen d'évacuer la chaleur en temps réel est de faire entrer le liquide en contact direct avec la surface de la puce.

Refroidissement à eau chaude à 45 °C, pourquoi est-il plus économique ?

Le cœur de l'architecture de refroidissement liquide consiste à faire circuler directement le liquide de refroidissement sur les ailettes de dissipation thermique à la surface de la puce, puis à évacuer la chaleur hors du rack, sans passer par l'étape inefficace du soufflage d'air par des ventilateurs.

Le liquide de refroidissement de la nouvelle génération Rubin entre dans la puce à 45 °C, en sort à environ 55 °C après avoir absorbé la chaleur, dans une boucle fermée sans ventilateur dans le système, sans perte de performance.

L'élément le plus énergivore d'un centre de données est le refroidisseur mécanique (chiller). En termes simples, c'est le « cœur du climatiseur » qui refroidit l'eau par compression. Selon les estimations du secteur, chaque fois que la température de l'eau de sortie du refroidisseur augmente de 1 °C, la consommation d'énergie de refroidissement diminue d'environ 4 % ; et en augmentant la température de l'eau jusqu'à 45 °C, on contourne directement l'étape du compresseur, en utilisant un refroidisseur sec (dry cooler).

En termes simples, il s'agit d'un dispositif passif qui utilise uniquement des ventilateurs pour disperser la chaleur de l'eau chaude dans l'air extérieur, sans évaporation d'eau ni compresseur.

25 fois plus efficace, 300 fois plus d'économie d'eau

Les résultats se reflètent dans les chiffres indiqués sur le blog officiel de NVIDIA : le GB200 NVL72 est 25 fois plus efficace énergétiquement et 300 fois plus efficace en utilisation de l'eau par rapport à l'architecture traditionnelle refroidie par air ; le nouveau GB300 NVL72 étend cet avantage énergétique à 30 fois.

Converti en indicateur PUE mesurant l'efficacité électrique d'un centre de données, cela équivaut à éliminer une grande partie de la consommation inutile.

L'écart du côté de l'utilisation de l'eau est encore plus évident. Le refroidissement traditionnel repose principalement sur des tours de refroidissement par évaporation. En termes simples, il s'agit d'une méthode de refroidissement qui évacue la chaleur par évaporation de l'eau, efficace, mais qui évapore des millions de gallons d'eau chaque année ; ce type de système consomme environ 2,6 millions de gallons d'eau par MW et par an.

En passant à un refroidissement liquide en boucle fermée avec un refroidisseur sec, dans des zones climatiques appropriées, la consommation d'eau peut être réduite à presque zéro, avec une réduction maximale de 100 %. Pour un centre de données hyperscale de 50 MW, après avoir adopté une infrastructure de refroidissement liquide, les factures d'électricité et d'eau liées au refroidissement peuvent économiser plus de 4 millions de dollars par an.