Kekurangan GPU Terulang: Penyedia cloud seperti Microsoft memperketat pasokan, startup AI menaikkan harga sewa chip sebesar 32% dan harus antre sampai akhir tahun

Menurut pemantauan Beating, beberapa perusahaan startup AI melaporkan bahwa penyedia cloud seperti Microsoft dan Amazon sedang memusatkan kekuatan GPU ke tim internal dan pelanggan besar (OpenAI, Anthropic), sementara pelanggan kecil dan menengah menghadapi kenaikan harga, waktu tunggu yang lama, dan ketentuan kontrak yang lebih ketat. Manajemen penjualan Azure Microsoft baru-baru ini memberitahu karyawan bahwa waktu tunggu GPU untuk pelanggan cloud diperkirakan akan berlangsung hingga akhir 2026.

Kasus spesifik: Startup pembuat gambar Krea (dengan pendanaan $8300 juta, termasuk investor Andreessen dan Bain Capital Ventures) enam bulan lalu menyewa ratusan chip Blackwell seharga $2,80 per jam per kartu, dengan kontrak selama 6 bulan. Saat memperpanjang kontrak, banyak penyedia cloud tidak mengangkat telepon, akhirnya disepakati dengan harga $3,70 per jam, meningkat 32%, dan durasi kontrak diperpanjang menjadi 1 tahun. CEO Victor Perez mengatakan, beberapa penyedia langsung tidak membalas, dan ada yang menawarkan kontrak tiga tahun baru mau berdiskusi. CEO Lightning AI, penyedia GPU cloud, Will Falcon, mengungkapkan bahwa perusahaan memiliki 40.000 GPU online, tetapi total permintaan dari sekitar 40 pelanggan yang antre mencapai 400.000 GPU, dan harga sewa meningkat lebih dari 25% dalam enam bulan.

Microsoft menerapkan manajemen akses GPU secara berjenjang: sekitar 1.000 pelanggan terbesar (Tier 1) mendapatkan prioritas; pelanggan kecil yang ingin menyewa chip Blackwell harus berjanji menyewa minimal 1.000 unit selama minimal satu tahun, dengan kontrak mulai dari puluhan juta dolar. Pelanggan yang membayar sesuai penggunaan (pay-as-you-go) dan GPU-nya tidak digunakan selama beberapa jam bisa langsung kehilangan akses. Startup yang mengikuti program gratis “Microsoft for Startups” juga diberitahu bahwa jika tidak menggunakan secara cukup, hak akses GPU mereka akan dicabut.

Partner General Catalyst, Hemant Taneja, telah mengirimkan survei kepada perusahaan portofolio untuk meneliti hambatan kapasitas komputasi, dan lembaga ini sedang merencanakan kolaborasi pool kapasitas komputasi bersama atau negosiasi kolektif melalui perusahaan perantara. Beberapa startup mulai mempertimbangkan membeli GPU sendiri: startup AI di industri minyak, Collide, berencana menghabiskan sekitar $50 juta untuk membeli GPU Nvidia secara langsung, menyewa ruang data center dan menjalankan sendiri, untuk menghindari antrean dan ketidakpastian.