Dinding Memori: Bagaimana Kelangkaan HBM Mendefinisikan Ulang Ekonomi Kecerdasan Buatan

Ada kendala tersembunyi yang muncul di jantung pembangunan kecerdasan buatan, dan kendala itu bukan ketersediaan komputasi itu sendiri. Kendalanya adalah memori yang memasok data ke komputasi tersebut. Selama beberapa bulan terakhir, kekurangan global memori bandwidth tinggi telah berubah dari catatan kaki rantai pasokan menjadi kekuatan penentu yang membentuk harga, strategi perusahaan, dan laju penerapan infrastruktur AI. Dampaknya kini terlihat di seluruh lapisan, mulai dari biaya kartu akselerator di Shenzhen hingga margin kotor perusahaan semikonduktor terbesar di dunia.

Mekanisme kelangkaan ini sederhana, meskipun implikasinya tidak demikian. Memori bandwidth tinggi, atau HBM, adalah bentuk khusus dari memori akses acak dinamis yang menumpuk lapisan chip memori secara vertikal dan menghubungkannya ke prosesor melalui ribuan saluran mikroskopis. Teknologi inilah yang memungkinkan akselerator AI mengakses data dalam jumlah besar dengan kecepatan yang tidak dapat ditandingi memori konvensional. Seiring model AI menjadi lebih besar dan kompleks, jumlah HBM yang dibutuhkan per prosesor meningkat tajam. H100 milik Nvidia membawa 80 gigabita HBM. B200 membawa 192 gigabita. Blackwell Ultra membawa 288 gigabita, meningkat 3,6 kali lipat hanya dalam dua generasi.

Masalahnya, memproduksi HBM jauh lebih sulit daripada memproduksi memori standar. Prosesnya memerlukan jalur silikon tembus, penipisan wafer, penumpukan, pengujian, dan pengemasan canggih, yang semuanya mengonsumsi kapasitas manufaktur dan menghasilkan output lebih rendah daripada DRAM konvensional. Setiap gigabita HBM mengonsumsi sekitar empat kali kapasitas wafer DRAM standar, sementara tingkat hasil tetap berada di kisaran 50 hingga 60 persen. Ketika tiga perusahaan menguasai hampir seluruh pasokan global, dan ketika perusahaan-perusahaan tersebut telah mengalihkan ruang ruang bersih yang sebelumnya digunakan untuk memproduksi memori konsumen ke HBM dengan margin lebih tinggi, hasilnya adalah tekanan struktural yang meluas jauh melampaui segmen AI itu sendiri.

Angka-angka yang menggambarkan tekanan ini sangat mencolok. Total pasar HBM diproyeksikan tumbuh dari 35 miliar dolar AS pada 2025 menjadi 54,6 miliar dolar AS pada 2026, meningkat lebih dari 50 persen hanya dalam satu tahun. Samsung dan SK Hynix telah menaikkan harga kontrak HBM generasi saat ini untuk 2026 hampir 20 persen, dan pasar memperkirakan susunan HBM4 generasi berikutnya akan berada di kisaran 500 hingga 600 dolar AS per unit, atau 55 hingga 70 persen lebih tinggi lagi dibandingkan level saat ini. Sumber industri yang dikutip DigiTimes menyebutkan bahwa harga HBM4 dapat naik dari sekitar 2 dolar AS per gigabit pada paruh kedua 2026 menjadi 4 atau 5 dolar AS atau lebih, didorong oleh kompleksitas ekstrem proses manufaktur yang memerlukan waktu produksi empat hingga enam bulan dan mengalami tingkat hasil awal yang jauh lebih rendah.

Kenaikan harga ini kini merambat melalui rantai pasokan dengan cara yang terlihat jelas. Di China, tempat kendali ekspor membatasi akses ke memori canggih dari tiga pemasok dominan, produsen chip AI semakin terpaksa mengandalkan saluran pasar abu-abu, dengan membayar beberapa kali lipat dibandingkan harga yang dibayar pembeli di luar China untuk komponen yang sama. Akibatnya, biaya kartu akselerator jadi meningkat tajam. Huawei telah menaikkan harga indikatif kartunya, Ascend 950DT, menjadi di atas 250.000 yuan, sekitar 37 ribu dolar AS, meningkat 20 hingga 50 persen dari harga yang dikutip hanya dua bulan sebelumnya. Cambricon telah menaikkan harga prosesor generasi berikutnya sebesar 20 hingga 30 persen. Bahkan produk generasi lama pun mengalami kenaikan: Ascend 950PR, yang dijual sekitar 60.000 yuan per kartu pada awal tahun, kini dihargai lebih dari 80.000 yuan. Karena memori mencakup porsi besar dari biaya produksi akselerator, harga yang lebih tinggi langsung mengalir ke kartu jadi, sehingga meningkatkan biaya pembangunan kapasitas komputasi AI tepat ketika permintaan atas kapasitas tersebut sedang meningkat.

Dampaknya tidak terbatas pada China. Kelangkaan ini telah memperkuat posisi pemasok memori dibandingkan perusahaan yang membeli produk mereka. Micron, yang telah lama menjadi produsen HBM terkecil dari ketiganya, berencana hampir menggandakan kapasitas wafer HBM bulanannya menjadi sekitar 100.000 wafer pada akhir 2026, naik dari 40.000 hingga 50.000 wafer tahun lalu. Samsung dan SK Hynix masing-masing memiliki kapasitas HBM bulanan sekitar 150.000 hingga 200.000 wafer, tiga hingga empat kali skala Micron saat ini. Kesenjangan tersebut menyempit, tetapi masih substansial. Yang lebih penting, kekuatan penetapan harga yang muncul dari kelangkaan kini berada kokoh di tangan para pemasok. Seperti yang dinyatakan dalam sebuah analisis, kelangkaan memori adalah salah satu tren AI langka yang memungkinkan Nvidia secara bersamaan memperoleh manfaat dari permintaan akhir yang lebih kuat dan kehilangan sedikit daya tawar terhadap pemasok.

Pergeseran ini memiliki implikasi yang melampaui margin perusahaan individual. Pasar memori yang lebih luas sedang dibentuk ulang oleh kekuatan yang sama. Harga kontrak DRAM konvensional naik sekitar 90 hingga 95 persen secara kuartal ke kuartal dalam tiga bulan pertama 2026, sebuah lonjakan kuartalan rekor. Harga kontrak NAND naik 55 hingga 60 persen pada periode yang sama, dengan kenaikan lanjutan sebesar 70 hingga 75 persen yang diproyeksikan untuk kuartal kedua. Pada akhir Agustus, rasio kecukupan pasokan pasar spot turun di bawah 50 persen, yang berarti pembuat modul dan OEM tidak mampu memperoleh cukup DRAM dan NAND serbaguna untuk memenuhi kebutuhan mereka. Beberapa produk memori lama, seperti DDR4, diperdagangkan lebih tinggi daripada DDR5 yang lebih baru karena kapasitas telah dialihkan ke produk yang lebih menguntungkan. Para analis independen kini menggambarkan situasi ini sebagai kelangkaan memori terbesar dalam sejarah, dengan harga tinggi diperkirakan bertahan hingga sisa dekade ini.

Pada tingkat teknis, kelangkaan ini mencerminkan ketidakseimbangan yang lebih dalam, yang telah diperingatkan para insinyur selama bertahun-tahun. Kinerja komputasi akselerator AI kira-kira meningkat tiga kali lipat setiap dua tahun, sementara bandwidth HBM tumbuh kurang dari dua kali lipat dalam periode yang sama. Kesenjangan antara seberapa cepat prosesor dapat menghitung dan seberapa cepat data dapat sampai kepadanya semakin melebar, bukan menyempit. Seperti yang disampaikan seorang peneliti Micron dalam konferensi industri baru-baru ini, dinding memori ini tidak menyusut; dinding tersebut justru membesar. Konsekuensi praktisnya adalah penambahan komputasi ke dalam sistem menghasilkan manfaat yang semakin berkurang jika memori tidak dapat memasok data dengan cukup cepat untuk menjaga unit komputasi tetap sibuk. Dalam inferensi model bahasa besar, khususnya pada tugas dengan ukuran batch kecil dan konteks panjang, sistem mungkin menghabiskan sebagian besar waktunya untuk membaca bobot dan cache, bukan melakukan kalkulasi. Dalam kondisi tersebut, bandwidth memori yang lebih besar dapat lebih bernilai daripada komputasi mentah yang lebih besar.

Respons industri adalah memperlakukan memori bukan sebagai satu kumpulan, melainkan sebagai sistem berlapis. Data yang paling sering digunakan, yaitu bobot dan cache key-value yang harus segera diakses, berada di HBM. Data yang tidak terlalu sensitif terhadap waktu berada di memori DDR atau LPDDR. Data yang paling jarang digunakan, yaitu parameter model dan cache yang jarang diakses, disimpan di solid-state drive. Pengelolaan hierarki ini secara efektif memerlukan perangkat lunak yang dapat memprediksi data apa yang akan dibutuhkan dan memindahkannya melalui setiap lapisan secara efisien. Ini merupakan persoalan yang sama besarnya terkait perangkat lunak dan desain sistem maupun perangkat keras.

Bagi mereka yang mengikuti pasar aset digital, kelangkaan memori menawarkan sudut pandang yang berguna terhadap siklus infrastruktur AI yang lebih luas. Kekuatan yang sama yang mendorong permintaan HBM, yaitu perluasan kapasitas pelatihan dan inferensi model, membentuk arus modal, permintaan energi, dan strategi perusahaan di seluruh sektor teknologi. Pusat data yang dibangun untuk melatih dan menjalankan model bahasa besar dirancang untuk mengakomodasi infrastruktur keuangan yang ditokenisasi, dan investor institusional yang mendanai pembangunan AI semakin merupakan investor yang sama yang mengalokasikan modal ke aset digital. Kedua dunia tersebut semakin sulit dipisahkan, dan kelangkaan memori berada di persimpangan keduanya.

Apa yang harus dipantau oleh pengamat yang cermat dalam beberapa kuartal mendatang? Pertama, arah harga HBM4. Kontrak yang sedang dinegosiasikan sekarang akan menentukan dasar biaya untuk akselerator AI generasi berikutnya, dan biaya tersebut pada akhirnya akan tercermin dalam harga layanan AI. Kedua, laju perluasan kapasitas di Micron, Samsung, dan SK Hynix. Rencana penggandaan kapasitas wafer Micron cukup signifikan, tetapi pasokan baru yang berarti diperkirakan tidak akan meredakan pasar hingga paling cepat akhir 2027. Ketiga, kesediaan produsen chip AI untuk menyerap biaya memori yang lebih tinggi. Jika margin tertekan terlalu jauh, hal itu dapat memperlambat laju penerapan infrastruktur, yang akan menimbulkan efek lanjutan di seluruh rantai pasokan AI.

Kebenaran yang lebih dalam adalah bahwa pembangunan AI telah memasuki fase ketika kendala yang mengikat bukan lagi sekadar soal berapa banyak prosesor yang dapat diproduksi. Kendalanya adalah apakah infrastruktur pendukung—memori, pengemasan, daya, dan pendinginan—dapat mengimbangi. HBM adalah contoh paling jelas dari pergeseran ini, tetapi bukan yang terakhir. Industri sedang belajar bahwa kecerdasan dalam skala besar tidak hanya memerlukan komputasi, tetapi juga kemampuan untuk memindahkan data ke komputasi tersebut secara efisien. Perusahaan yang memecahkan masalah itu akan merebut bagian besar dari nilai yang tercipta. Sisanya akan mengamati, menghitung, dan bersiap.
#ShareWeekly
#HBMShortageBoostsAIChipPrices