Kapasitas komputasi sangat langka! Biaya sewa H100 yang dirilis oleh Nvidia empat tahun lalu meningkat hampir 40% dalam enam bulan terakhir

Seiring dengan rilis beruntun aplikasi viral dari raksasa AI seperti Anthropic dan ByteDance sejak awal tahun, ditambah dengan lonjakan tren “kutu air” yang mendorong lonjakan permintaan penggunaan model-model open-source, momen puncak terjadi ketika chip H100 dari NVIDIA mengalami pembalikan harga “berbentuk V” di pasar sewa.

Perlu diketahui, chip ini adalah produk yang diluncurkan oleh Huang Renxun pada Maret 2022 di GTC, dan mulai dikirim pada musim gugurnya di tahun yang sama.

Menurut “H100 one-year leasing contract price index” yang diluncurkan oleh lembaga riset semikonduktor SemiAnalysis pada hari Kamis, setelah harga kontrak sewa “chip lama” ini menyentuh 1,7 dolar AS per jam pada Oktober 2025, pada bulan Maret tahun ini melonjak menjadi 2,35 dolar AS per jam per GPU, naik hampir 40%.

（Sumber: SemiAnalysis）

Indeks ini disusun berdasarkan data survei langsung terhadap lebih dari 100 penyedia layanan cloud, pembeli, dan penjual sumber daya komputasi, yang diambil sekali setiap bulan.

Laporan terbaru menyebutkan bahwa kapasitas komputasi GPU yang disewa sesuai kebutuhan telah kehabisan stok di semua jenis GPU—meskipun terjadi kenaikan harga baru-baru ini, para pelanggan yang sudah mengunci instance berdasarkan kebutuhan tersebut tidak bersedia melepas kembali kapasitas itu ke dalam pool sumber daya. Lembaga ini juga menganalogikan: mencari kapasitas GPU pada awal 2026 ibarat mencoba memesan tiket pesawat untuk “penerbangan terakhir yang masih berangkat”—harganya mahal, dan hampir tidak ada sumber daya yang tersedia.

Para peneliti menambahkan: “Pelanggan berebut untuk membeli instance bidding p6-b200 layanan cloud Amazon dengan harga 14 dolar AS per GPU per jam; bahkan beberapa raksasa layanan cloud yang baru muncul (Neocloud Giants) sudah tidak lagi menyediakan penjualan per node. Sebagian GPU NVIDIA H100 masih memperpanjang kontrak dengan harga asli pada saat penandatanganan 2–3 tahun lalu, dan bahkan ada beberapa kontrak H100 yang diperpanjang langsung hingga tahun 2028.”

Bagaimana dengan chip Blackwell yang lebih maju arsitekturnya? Para peneliti mengatakan bahwa karena permintaan yang kuat terhadap model berbobot terbuka (open-weight) dan lonjakan permintaan inferensi yang terus berlanjut, siklus pengiriman Blackwell yang dideploy baru kini diperpanjang hingga 6 sampai 7 bulan.

Pada akhir 2025, pasar sempat memperkirakan bahwa seiring akselerasi penerapan chip Blackwell yang lebih kuat kinerjanya dan lebih rendah biaya komputasinya, harga sewa chip Hopper (H100, H200) bisa turun tajam. Namun kondisi terbaru justru sebaliknya: kini permintaan pasar terhadap H100 bukan hanya tetap kuat, bahkan pada banyak situasi malah semakin meningkat.

Dalam laporannya, SemiAnalysis menyebutkan bahwa salah satu pendorong penting permintaan komputasi di awal tahun ini berasal dari generasi media asli. Misalnya, Seedance (yaitu “mimpi”) dari ByteDance dan Nano Banana dari Google mendorong pengguna untuk menghasilkan dan mengoptimalkan banyak video/gambar, sehingga mendorong throughput token meningkat secara signifikan. Sumber permintaan yang lebih menonjol berasal dari kebangkitan workload multi-agent, yang mendorong pertumbuhan penggunaan token dan konsumsi komputasi secara berbentuk parabola.

SemiAnalysis menyatakan, hanya mereka sendiri “dalam minggu lalu saja menghabiskan puluhan miliar token”, dengan biaya sekitar 5 dolar AS per sejuta token. Namun perusahaan juga sangat puas karena penghematan waktu yang dihasilkan serta nilai dari perluasan kemampuan dan alur kerja jauh melampaui biaya komputasi.

Laporan itu juga menyebutkan bahwa dinamika ketika pasokan komputasi semakin ketat dan harga naik memiliki kesenjangan dengan sentimen pasar yang luas. Saham para penyedia layanan cloud baru seperti CoreWeave dan Nebius berada pada bagian bawah dari rentang 6 sampai 12 bulan terakhir. Analisis menunjukkan bahwa saat ini pasar masih berlabuh pada kerangka narasi bahwa “pada akhirnya akan terjadi kelebihan pasokan dan komoditisasi komputasi”. Tetapi kenyataannya, dalam kondisi ketegangan pasokan yang agresif, hampir semua jenis sumber daya komputasi akan tetap mengalami permintaan yang kuat—apa pun perbedaan performa relatifnya.

Ke depan, para peneliti memberikan tiga poin observasi kunci untuk menilai apakah harga sewa GPU masih akan bertahan di level tinggi.

Pertama, seiring klaster GB300 yang berangsur-angsur mulai memenuhi volume sepanjang tahun 2026, pasar akan menyoroti apakah penambahan pasokan benar-benar dapat meredakan ketegangan komputasi saat ini. Kedua, perlu diperhatikan apakah kekurangan chip yang terus berlangsung akan semakin memburuk. Terakhir, perlu mengamati ekspansi pendapatan rutin tahunan (ARR) dari para raksasa AI, serta kecepatan adopsi aplikasi AI dan ritme pertumbuhan berkelanjutan skala konsumsi token.

（Sumber: Caixin Global）