Kekurangan GPU Kembali Terjadi: Penyedia Cloud Memperketat Pasokan, Startup AI Menghadapi Kenaikan Harga Sewa Chip sebesar 32% dan Penantian Panjang Hingga Akhir Tahun

Menurut pemantauan oleh Beating, beberapa startup AI melaporkan bahwa penyedia cloud seperti Microsoft dan Amazon memusatkan kekuatan komputasi GPU ke tim internal dan klien utama (seperti OpenAI dan Anthropic), meninggalkan klien kecil hingga menengah menghadapi kenaikan harga, waktu tunggu yang lama, dan ketentuan kontrak yang lebih ketat. Baru-baru ini, manajemen penjualan Azure Microsoft memberitahu karyawan bahwa waktu tunggu GPU untuk pelanggan cloud diperkirakan akan berlangsung hingga akhir 2026. Kasus tertentu melibatkan startup generasi gambar Krea (yang mengumpulkan $83 juta dolar, dengan investor termasuk Andreessen dan Bain Capital Ventures) yang menyewa ratusan chip Blackwell seharga $2,80 per kartu per jam enam bulan yang lalu di bawah kontrak enam bulan. Ketika saatnya memperpanjang, beberapa penyedia cloud tidak menjawab panggilan, dan kesepakatan akhir dicapai dengan harga $3,70/jam, kenaikan 32%, dengan kontrak diperpanjang menjadi satu tahun. CEO Victor Perez menyatakan bahwa beberapa penyedia sama sekali tidak merespons, sementara yang lain hanya terlibat dalam diskusi untuk kontrak tiga tahun. Will Falcon, CEO penyedia cloud GPU Lightning AI, mengungkapkan bahwa perusahaan memiliki 40.000 GPU online, tetapi total permintaan dari sekitar 40 klien dalam antrean mencapai 400.000 GPU, dengan harga sewa meningkat lebih dari 25% dalam enam bulan. Microsoft menerapkan manajemen berlapis untuk akses GPU: sekitar 1.000 klien terbesar (Tier 1) diprioritaskan; klien yang lebih kecil yang ingin menyewa chip Blackwell harus berkomitmen minimal 1.000 unit selama minimal satu tahun, dengan kontrak mulai dari puluhan juta dolar. Pelanggan bayar sesuai penggunaan mungkin kehilangan akses oleh Microsoft jika GPU mereka tidak aktif selama beberapa jam. Startup yang mengikuti program kuota gratis ‘Microsoft for Startups’ juga diberitahu bahwa penggunaan yang tidak cukup akan mengakibatkan pencabutan akses GPU. Hemant Taneja, mitra di General Catalyst, telah mensurvei perusahaan portofolio tentang hambatan kekuatan komputasi, dan firma berencana membuat kolam komputasi bersama atau tawar-menawar kolektif untuk perusahaan yang diinvestasikan. Beberapa startup mulai mempertimbangkan membeli GPU secara langsung: startup AI Collide di industri minyak berencana menghabiskan sekitar $500.000 untuk membeli langsung GPU NVIDIA dan menyewa ruang pusat data untuk beroperasi secara independen, guna menghindari antrean dan ketidakpastian.