Como a inovadora tecnologia de refrigeração "água quente" da NVIDIA economiza eletricidade e água significativamente?

Os novos servidores AI da NVIDIA aquecem o líquido de refrigeração a 45 graus Celsius para funcionar, saltando assim o chiller mais consumidor de energia e usando dissipadores de calor secos para expelir o calor para o exterior. (Resumo anterior: Dell e NVIDIA lançam servidor AI totalmente refrigerado a líquido! Primeiro com arquitetura Vera Rubin, 144 GPUs por rack com capacidade de computação recorde) (Contexto adicional: Revolução de alimentação de 800V da NVIDIA sem atrasos! Confirmado com parceiros Delta Electronics e ABB: produção em massa no Q3 conforme planeado) Índice Alternar

• De 20kW a 140kW, racks com arrefecimento a ar no limite
• Arrefecimento a água quente a 45°C, por que é mais eficiente em termos energéticos?
• 25x eficiência energética, 300x economia de água

Na fatura do centro de dados, não são apenas as GPUs que são gananciosas; o sistema de refrigeração consome até 40% da eletricidade total há anos, sendo um dos maiores encargos que comprime os lucros.

No entanto, os novos servidores Rubin da NVIDIA oferecem uma resposta contraintuitiva: para poupar energia, aqueça primeiro a água. A nova tecnologia de arrefecimento a 'água quente' eleva a temperatura de funcionamento do líquido de refrigeração para 45 graus Celsius, abandonando o senso comum de 'quanto mais frio, melhor'.

De 20kW a 140kW, racks com arrefecimento a ar no limite

Há três anos, o consumo de energia de um rack de centro de dados era cerca de 20 kW, que podia ser gerido com ar condicionado normal e ventoinhas. Após a mudança de geração das GPUs, este número mais do que sextuplicou; a densidade dos racks em instalações de hiperescala agora excede geralmente 135 kW, e o consumo térmico total de um único rack NVIDIA GB200 NVL72 aproxima-se de 130 a 140 kW.

O calor que as ventoinhas podem dissipar tem um limite físico. Uma vez que a densidade do rack ultrapassa um certo limiar, o arrefecimento a ar deixa de ser uma questão de eficiência e passa a ser uma questão de viabilidade. É por isso que o arrefecimento líquido se tornou a arquitetura padrão das fábricas de IA. Com chips empilhados até à escala do NVL72, a única forma de remover o calor em tempo real é deixar o líquido contactar diretamente a superfície do chip.

Arrefecimento a água quente a 45°C, por que é mais eficiente em termos energéticos?

O núcleo da arquitetura de arrefecimento a água é fazer o líquido de refrigeração fluir diretamente sobre as aletas de dissipação de calor na superfície do chip, removendo o calor e depois saindo do rack, sem depender do meio ineficiente de soprar ar com ventoinhas.

O líquido de refrigeração da nova geração Rubin entra no chip a 45°C, sai a cerca de 55°C após absorver calor, num ciclo fechado completo, sem ventoinhas no sistema, sem comprometer o desempenho.

O componente individual que mais consome energia num centro de dados é o chiller mecânico. Simplificando, é o 'coração do ar condicionado' que usa um compressor para arrefecer a água forçadamente. A indústria estima que, por cada grau que a temperatura da água de saída do chiller aumenta, poupa-se cerca de 4% da energia de arrefecimento. Ao alargar a temperatura da água para 45°C, salta-se diretamente a etapa do compressor, passando a usar um dissipador de calor seco (dry cooler).

Simplificando, é um dispositivo passivo que apenas usa ventoinhas para soprar o calor da água quente para o ar exterior, sem evaporar água nem usar compressor.

25x eficiência energética, 300x economia de água

O efeito reflete-se nos números indicados no blogue oficial da NVIDIA: o GB200 NVL72 tem 25 vezes mais eficiência energética e 300 vezes mais eficiência no uso de água em comparação com a arquitetura tradicional de arrefecimento a ar; a nova geração GB300 NVL72 amplia a vantagem de eficiência energética para 30 vezes.

Traduzindo para o indicador PUE que mede a eficiência energética do centro de dados, equivale a eliminar uma grande parte do consumo ineficiente.

A diferença no uso de água é mais direta. O arrefecimento tradicional baseia-se em torres de arrefecimento evaporativas. Simplificando, é um método que remove calor através da evaporação da água, eficaz, mas que evapora milhões de galões de água por ano. Este tipo de sistema consome cerca de 2,6 milhões de galões de água por MW por ano.

Mudando para arrefecimento líquido fechado com dissipador de calor seco, em regiões climáticas adequadas, o consumo de água pode ser reduzido para quase zero, até 100% de redução. Um centro de dados de hiperescala de 50 MW, após a mudança para infraestrutura de arrefecimento líquido, pode poupar mais de 4 milhões de dólares por ano apenas em custos de eletricidade e água relacionados com o arrefecimento.