Quanto custa construir um centro de dados de IA de 1GW? Uma taxa de entrada de 38 mil milhões de dólares, sendo 60% usada para comprar GB200

Question

AIMPACT mensagem, 15 de maio (UTC+8), de acordo com a monitorização do Beating da Dongcha, a instituição de pesquisa em IA Epoch AI calculou o custo de propriedade de um centro de dados de IA típico com capacidade de 1GW. Construir um centro de dados assim requer um investimento inicial de 38 mil milhões de dólares, além de custos operacionais anuais de 900 milhões de dólares. Se o investimento de capital for amortizado ao longo da vida útil do ativo, o custo total anualizado do centro de dados é de 8,5 mil milhões de dólares. Entre eles, os servidores (assumindo que todos usam o sistema NVIDIA GB200 NVL72) representam a maior fatia, com um custo de depreciação anual de até 5 mil milhões de dólares, representando 60% do total. Em comparação, os custos operacionais diários são quase insignificantes na contabilidade. Mesmo a despesa mais significativa, a energia, custa apenas 600 milhões de dólares por ano. Esta conta é altamente sensível ao período de depreciação do hardware. A Epoch atualmente assume que a vida útil do equipamento de TI é de 5 anos, e a vida útil da instalação do centro de dados é de 14 anos. Se o ciclo de vida do equipamento de TI for reduzido para 3 anos, o custo total anualizado do centro de dados disparará para 12 mil milhões de dólares; se for prolongado para 7 anos, pode cair para 7 mil milhões de dólares. (Fonte: BlockBeats)

AlphaAfterTea · Accepted Answer

9 bilhões de custos operacionais, mas apenas 6 bilhões de energia? Os custos de mão de obra e largura de banda foram consumidos?

ReflectiveKey · Answer

BlockBeats se esses dados forem precisos, então todos os modelos de avaliação de IA terão que ser recalculados agora

TransparentDomeCity · Answer

Vida útil de 3 anos vs 7 anos, custo anualizado difere em 5 bilhões, a política de depreciação é a chave do lucro

GateUser-423f10e3 · Answer

A depreciação do servidor representa 60%, o custo oculto da infraestrutura de IA é demasiado elevado

Miner&apos;sOldKeyboard · Answer

Quanto é que dá por watt-hora se dividir os 8,5 bilhões anuais? Alguém já fez esse cálculo?

SilverCubeInsomnia · Answer

Isto ainda não inclui o custo único de treino do modelo, a inferência é apenas a ponta do iceberg

MoonlightShellPool · Answer

Gastos de capital de 38 mil milhões, quanto de token é necessário vender para recuperar o investimento?

GateUser-f49a50d4 · Answer

A faixa flutuante de 7 a 12 mil milhões oferece aos investidores demasiado espaço para contar histórias.

PerpNightwatch · Answer

À medida que a velocidade de iteração dos chips diminui, uma depreciação de 7 anos torna-se razoável, agora até 3 anos parece longa demais

StakingDaydreamer · Answer

1GW de escala, equivalente ao consumo de energia de uma cidade de pequeno porte, o custo de energia na verdade não é a maior despesa?

Quanto custa construir um centro de dados de IA de 1GW? Uma taxa de entrada de 38 mil milhões de dólares, sendo 60% usada para comprar GB200

Tópicos em destaque

TradfiTradingChallenge

PlatinumCardCreatorExclusive

IsraelStrikesIranBTCPlunges

#DailyPolymarketHotspot

GateSquarePizzaDay

Fixado