如今建造資料中心是一場泡沫嗎?
一張大約三年新的 Nvidia H100,在供應最稀缺時成本約為 30,000–40,000 美元,如今按需租用仍約為每小時 3–4 美元(各供應商的中位數;現貨和社群費率則更接近 1–2.50 美元)。在滿載運行下,每小時 3.50 美元一年約為 30,000 美元,尚未扣除成本。電力和冷卻確實是成本,但相較之下並不高——一張 H100 SXM 的功耗約為 700W,加上伺服器額外功耗和典型的 PUE,在商業電價下,每張 GPU 每年的電費通常約為 1,000–2,000 美元,因此毛現金流看起來仍然很強。
其剩餘價值並未像消費級硬體通常那樣崩跌。二手和翻新的 H100 在二級市場上仍能以遠超 10,000 美元的價格成交,儘管它們確實已經貶值;說「價格沒有變動」是言過其實。對於推論和許多訓練工作負載而言,5–6 年的合理使用壽命是可行的,即使 Blackwell 正引領前沿技術。
這算是好的報酬嗎?紙面上是——前提是你能維持高利用率。扣除平台費用、停機時間、機房託管、網路和故障成本後,主機營運的實際收益更接近每小時 1–2 美元,而不是 headline 租用費率。相較於一個 3 萬美元–$40k box,這仍可能勝過 7% 的貸款,但前提是現金流能夠維持。風險在於利用率、隨著供應追上需求而進一步下降的租用費率,以及當更新世代大量供應後的剩餘價值