Saya baru saja memperhatikan bahwa harga sewa GPU NVIDIA sedang meningkat secara gila-gilaan akhir-akhir ini. Setiap dua bulan, harga melonjak hingga 48%, saat ini sewa GPU per jam untuk chip Blackwell terbaru sudah mencapai 4,08 USD per jam. Situasinya adalah industri AI sedang menghadapi krisis pasokan terburuk dalam lima tahun terakhir, sehingga tidak ada yang memiliki sumber daya komputasi yang cukup.

Akibatnya, perusahaan besar juga terkena dampaknya secara signifikan. Anthropic harus menjalankan API Claude dengan kinerja yang buruk, OpenAI harus memproses token dua kali lipat dibanding tahun lalu sehingga harus menutup proyek Sora. Memang situasinya sulit ketika sewa GPU per jam terus meningkat tanpa henti.

Para ahli memperkirakan ketidakseimbangan ini akan berlangsung setidaknya hingga tahun 2029. Indeks Harga Perhitungan Ornn juga mengonfirmasi tren ini. Secara umum, pasar sewa GPU sedang dalam kondisi sangat tegang, siapa pun yang membutuhkan sumber daya komputasi besar pasti harus menyiapkan uang yang cukup banyak.