¿Cuánto cuesta construir un centro de datos de IA de 1GW?
$38 mil millones de tarifa de entrada, el 60% se usa para comprar GB200

Question

AIMPACT Mensaje, 15 de mayo (UTC+8), según la monitorización de Beating de Dongcha, la institución de investigación en IA Epoch AI calculó el costo de propiedad de un centro de datos de IA típico de 1 GW de capacidad. Construir tal centro de datos requiere un gasto de capital inicial de 38 mil millones de dólares, además de un gasto operativo diario anual de 900 millones de dólares. Si se amortiza el gasto de capital según la vida útil del activo, el costo total anualizado de ese centro de datos es de 8.5 mil millones de dólares. Entre ellos, los servidores (suponiendo que todos utilizan el sistema NVIDIA GB200 NVL72) constituyen la mayor parte, con un costo de depreciación anual de hasta 5 mil millones de dólares, representando el 60% del gasto total. En comparación, los gastos operativos diarios son mínimos en los libros. Incluso el gasto en energía, que representa la mayor proporción, es solo de 600 millones de dólares al año. Esta cifra es muy sensible a la duración de la depreciación del hardware. Epoch asume actualmente que la vida útil del equipo de TI es de 5 años y la vida útil de las instalaciones del centro de datos es de 14 años. Si se acorta la vida útil del equipo de TI a 3 años, el costo total anualizado del centro de datos se disparará a 12 mil millones de dólares; si se extiende a 7 años, puede reducirse a 7 mil millones de dólares. (Fuente: BlockBeats)

AlphaAfterTea · Accepted Answer

¿De los 900 millones en gastos operativos, solo 600 millones en energía? ¿Se han comido los costos de mano de obra y ancho de banda?

ReflectiveKey · Answer

BlockBeats, si estos datos son precisos, entonces todos los modelos de valoración de IA tendrían que recalcularse ahora

TransparentDomeCity · Answer

Vida útil de 3 años vs 7 años, diferencia de costo anualizada de 5 mil millones, la política de depreciación es la palanca de beneficios

GateUser-423f10e3 · Answer

La depreciación del servidor representa el sesenta por ciento, los costos ocultos de la infraestructura de IA son demasiado altos.

Miner&apos;sOldKeyboard · Answer

¿A cuánto equivale distribuir 8.5 mil millones de yuanes anuales en cada vatio-hora? ¿Alguien ha hecho ese cálculo?

SilverCubeInsomnia · Answer

Esto aún no incluye el costo único del entrenamiento del modelo, la inferencia es solo la punta del iceberg

MoonlightShellPool · Answer

Gastos de capital de 38 mil millones, ¿cuántos tokens hay que vender para recuperar la inversión?

GateUser-f49a50d4 · Answer

El rango de fluctuación de 7 a 12 mil millones ofrece demasiado espacio para contar historias a los inversores.

PerpNightwatch · Answer

Cuando la velocidad de iteración de los chips disminuya, una depreciación en 7 años será razonable, ahora incluso 3 años se sienten largos.

StakingDaydreamer · Answer

1GW de escala, equivalente al consumo eléctrico de una ciudad pequeña, ¿el costo de energía en realidad no es la mayor parte?

¿Cuánto cuesta construir un centro de datos de IA de 1GW?
$38 mil millones de tarifa de entrada, el 60% se usa para comprar GB200

Temas de actualidad

TradfiTradingChallenge

PlatinumCardCreatorExclusive

IsraelStrikesIranBTCPlunges

#DailyPolymarketHotspot

GateSquarePizzaDay

Fijado

¿Cuánto cuesta construir un centro de datos de IA de 1GW? $38 mil millones de tarifa de entrada, el 60% se usa para comprar GB200

Temas de actualidad

TradfiTradingChallenge

PlatinumCardCreatorExclusive

IsraelStrikesIranBTCPlunges

#DailyPolymarketHotspot

GateSquarePizzaDay

Fijado

¿Cuánto cuesta construir un centro de datos de IA de 1GW?
$38 mil millones de tarifa de entrada, el 60% se usa para comprar GB200