今日データセンターを構築するのはバブルなのか?
希少性がピークに達していた頃に約30,000~40,000ドルで購入された、購入からおよそ3年のNvidia H100は、現在でもオンデマンドで1時間あたり約3~4ドルで借りられる(プロバイダー全体の中央値。スポット料金やコミュニティ料金は1~2.50ドル程度)。フル稼働なら、1時間3.50ドルでコスト控除前の年間約30,000ドルになる。電気代と冷却費も実際にはかかるが、これに比べれば小さい。H100 SXMの消費電力は約700Wで、サーバーのオーバーヘッドと一般的なPUEを考慮しても、商用料金での電気代はGPU 1台あたり年間およそ1,000~2,000ドルであることが多い。そのため、総キャッシュフローは依然として強く見える。
残存価値も、通常のコンシューマー向けハードウェアほど急落してはいない。中古・再生品のH100は、価値が下落したとはいえ、現在でも流通市場で5桁台半ばを大きく超える価格で取引されている。「価格が動かなかった」という表現は言い過ぎだ。Blackwellが最先端の座を占めるようになっても、推論や多くの学習ワークロードでは、現実的な耐用年数として5~6年は見込める。
これは良いリターンなのか?机上では、稼働率を高く維持できるなら、そうだ。プラットフォーム手数料、ダウンタイム、コロケーション、ネットワーク、故障を差し