HBM vs DRAM: Mengapa model AI besar tidak bisa lepas darinya? Chip penyimpanan bergerak dari "era planar" menuju "revolusi 3D".

Pada tanggal 30 Juni 2026, Bitcoin berfluktuasi sempit di kisaran $60.000, sementara Ethereum bertahan di kisaran $1.600. Setelah koreksi berkelanjutan sejak Juni, pasar kripto masih didominasi oleh sentimen bearish jangka pendek. Namun, saat aset kripto memasuki "waktu sampah", jalur lain sedang mengalami pertumbuhan eksplosif yang belum pernah terjadi sebelumnya — penyimpanan semikonduktor.

Laporan musim semi 2026 dari Organisasi Statistik Perdagangan Semikonduktor Dunia (WSTS) secara signifikan merevisi proyeksi pertumbuhan industri: Ukuran pasar semikonduktor global pada 2026 diperkirakan menembus $1,51 triliun, tumbuh 90% tahun-ke-tahun, di mana chip memori meningkat 250% tahun-ke-tahun, mencapai lebih dari $800 miliar. Nilai produksi memori untuk pertama kalinya akan melampaui pengecoran wafer, menjadi kutub pertumbuhan pertama semikonduktor.

Dan protagonis absolut dari revolusi memori ini adalah HBM (High Bandwidth Memory). Pada tahun 2026, ukuran pasar HBM diperkirakan tumbuh 58% menjadi $54,6 miliar, menyumbang hampir 40% dari pasar DRAM. Apa sebenarnya perbedaan antara HBM dan DRAM? Mengapa model AI besar sangat bergantung pada HBM?

HBM vs DRAM: Berasal dari Sumber yang Sama, Nasib Berbeda

HBM dan DRAM berbagi media penyimpanan dasar yang sama — memori akses acak dinamis. Namun, jalur teknologi, desain arsitektur, dan skenario aplikasi keduanya mengarah ke arah yang sangat berbeda.

DRAM tradisional mengikuti jalur "ekspansi planar". DRAM tradisional yang diwakili oleh DDR4, DDR5 mengadopsi arsitektur planar, meningkatkan kinerja melalui peningkatan proses (misalnya, dari 20nm ke 2nm) dan optimalisasi arsitektur (misalnya, peningkatan bit prefetch DDR5). Logika intinya adalah: terus-menerus memperkecil ukuran transistor dan meningkatkan frekuensi pada bidang dua dimensi. Namun, jalur ini mendekati batas fisik — proses di bawah 2nm menghadapi tantangan seperti efek tunneling kuantum, dan hanya mengandalkan penyusutan proses tidak dapat lagi memenuhi permintaan eksponensial komputasi AI akan bandwidth memori.

HBM memilih jalur terobosan "penumpukan vertikal". HBM mengadopsi struktur 3D, menggunakan teknologi Through Silicon Via (TSV) untuk menumpuk beberapa chip DRAM secara vertikal, membentuk struktur kubus — membuka ribuan lubang kecil pada chip DRAM, menghubungkan chip atas dan bawah melalui elektroda yang menembus vertikal; lapisan bawah adalah unit kontrol logika DRAM, yang bertanggung jawab untuk pengaturan waktu dan kontrol keseluruhan. Desain "menumpuk orang" ini memungkinkan HBM mencapai kepadatan bandwidth yang sangat tinggi dalam ruang fisik yang sangat kecil.

Kesenjangan dalam indikator kinerja utama antara keduanya sangat besar:

Dalam hal bandwidth, bandwidth DRAM tradisional (seperti DDR5) sekitar 50 - 100 GB/s, sementara bandwidth tumpukan tunggal HBM3E dapat mencapai 1,2 TB/s, dan HBM4 generasi berikutnya diperkirakan akan ditingkatkan menjadi lebih dari 2,0 TB/s. Bandwidth HBM lebih dari 10 kali lipat dari DRAM tradisional.

Dalam hal efisiensi daya, HBM dapat serendah 5 pJ/bit, sementara DRAM tradisional adalah 10 - 15 pJ/bit. Di pusat data di mana ribuan GPU beroperasi secara bersamaan, perbedaan ini berarti perbedaan tagihan listrik puluhan juta dolar setiap tahun.

Dalam hal latensi, DRAM tradisional, dengan keunggulan arsitektur planar, dapat dipertahankan pada tingkat 10 ns, sementara HBM, karena peningkatan jumlah lapisan tumpukan, memiliki latensi pada tingkat 100 ns. Namun, dalam skenario pelatihan dan inferensi AI, sensitivitas terhadap "throughput" jauh lebih tinggi daripada "latensi tunggal" — throughput kecepatan tinggi dari parameter dalam jumlah besar jauh lebih penting daripada kecepatan akses tunggal.

Dalam hal biaya, biaya produksi HBM jauh lebih tinggi daripada DRAM tradisional. Meskipun biaya per Gb HBM4 turun 30% dibandingkan dengan HBM3, biayanya masih 3 - 5 kali lipat dari DDR5 dengan kapasitas yang sama. Penggunaan wafer HBM sekitar 4 hingga 5 kali lipat dari DDR5. Proses TSV membuat kepadatan bit chip HBM secara signifikan lebih rendah daripada DDR dengan spesifikasi yang sama — kepadatan bit SK Hynix D1z DDR4 adalah 0,296 Gb/mm², 85% lebih tinggi dari HBM3 (0,16 Gb/mm²). Area tambahan yang diperlukan oleh TSV dan proses pengemasan tumpukan yang kompleks adalah alasan utama tingginya biaya HBM.

Singkatnya: DRAM tradisional mengejar "murah dan cukup", sedangkan HBM mengejar "bandwidth maksimum" — ini adalah pertarungan antara jalur teknologi "prioritas biaya" dan "prioritas bandwidth".

Krisis Dinding Memori: Mengapa Model AI Besar Harus Menggunakan HBM?

Ketergantungan model AI besar pada HBM berakar pada hambatan fundamental yang disebut "Memory Wall" oleh industri.

Selama 20 tahun terakhir, kekuatan komputasi GPU telah meningkat 60.000 kali lipat, sementara bandwidth DRAM hanya meningkat 100 kali lipat. Kecepatan peningkatan daya komputasi jauh melampaui kecepatan pasokan data — seperti mobil balap dengan tenaga kuda yang melonjak, tetapi pipa bahan bakarnya masih merupakan spesifikasi 20 tahun yang lalu. GPU adalah mesin, HBM adalah sistem injeksi bahan bakar; jika kecepatan pasokan bahan bakar tidak dapat mengimbangi, mesin sekencang apa pun hanya akan berputar diam saja.

Mekanisme operasi model bahasa besar memperkuat kontradiksi ini. Model AI generatif tidak hanya mengambil informasi statis, tetapi terus-menerus memelihara "status kerja" yang berisi jendela konteks, cache kunci-nilai (KV Cache), aktivasi perantara, dan keputusan perutean. Data ini perlu diakses secara real-time dengan latensi sangat rendah dan selalu tersedia. Dalam pemrosesan urutan Token lengkap, model perlu terus-menerus mengakses dan memperbarui konteks — bahkan sedikit peningkatan latensi memori dapat menyebabkan penurunan throughput, latensi respons, atau bahkan memaksa operator untuk menambah perangkat keras.

Tahap pelatihan, model besar dengan triliunan parameter perlu diulang berkali-kali pada data dalam jumlah besar, setiap propagasi maju dan mundur melibatkan pembacaan dan pembaruan sejumlah besar parameter. Bandwidth tingkat TB/s yang disediakan oleh HBM adalah faktor penentu dalam mempersingkat waktu pelatihan.

Tahap inferensi, dengan percepatan pengembangan model multimodal besar dan Agen AI, jumlah panggilan Token meningkat pesat. Hambatan dalam aplikasi inferensi seringkali bukan pada "seberapa cepat komputasi", melainkan pada "seberapa cepat data dapat diumpankan". Ujung dari bandwidth adalah HBM.

Pada tingkat sistem, AI beroperasi pada arsitektur memori berlapis: HBM menyediakan data untuk akselerator, DRAM menyimpan status real-time dan memori dialog, dan SSD berbasis NAND menyediakan penyimpanan persisten untuk kumpulan data, embedding, indeks pencarian, log, dan titik pemeriksaan. HBM berada di posisi paling dekat dengan inti komputasi, menangani tugas pasokan data yang paling sering dan paling mendesak — ini tidak dapat digantikan oleh media penyimpanan lainnya.

Oleh karena itu, semua akselerator AI terkemuka yang digunakan untuk pelatihan dan inferensi AI generatif menggunakan HBM. HBM bukanlah "aksesori opsional" untuk AI, melainkan "tabung oksigen" yang menentukan seberapa cepat AI dapat berjalan.

Ketidakseimbangan Pasokan-Permintaan: Kekurangan Struktural yang Berlangsung Selama Bertahun-Tahun

Permintaan HBM bersifat kaku, sementara pasokan "terkunci".

Dari sisi permintaan, pengeluaran infrastruktur AI global pada tahun 2026 diperkirakan mencapai $450 miliar, di mana pangsa daya komputasi inferensi untuk pertama kalinya melebihi 70%, mendorong permintaan yang kuat untuk GPU, HBM, dan chip jaringan berkecepatan tinggi. Pertumbuhan permintaan HBM pada tahun 2026 terutama didorong oleh peningkatan kapasitas AI ASIC, dengan kapasitas HBM per chip AI meningkat secara signifikan dari 96 GB/192 GB menjadi 216 GB/288 GB. Meskipun kapasitas HBM per GPU dari platform Rubin Nvidia sama dengan generasi sebelumnya, volume pengiriman yang lebih tinggi terus mendorong permintaan keseluruhan. Total belanja modal dari sembilan penyedia layanan cloud global pada tahun 2026 diperkirakan mencapai sekitar $830 miliar, tumbuh 79% tahun-ke-tahun.

Dari sisi pasokan, meskipun tiga pabrikan utama (Samsung, SK Hynix, Micron) telah mengalokasikan 70% dari kapasitas baru / yang dapat disesuaikan ke HBM, kesenjangan kapasitas HBM masih mencapai 50% hingga 60%. Hingga kuartal pertama tahun 2026, semua kapasitas HBM dari tiga pabrikan utama telah terjual habis. Menurut data SemiAnalysis, pada tahun 2026, pasokan DRAM lebih rendah sekitar 7% dari permintaan, kesenjangan HBM 6%, dan akan melebar menjadi 9% pada tahun 2027.

Yang lebih penting adalah kekakuan pasokan. Bahkan jika tiga pabrikan utama memutuskan untuk memperluas kapasitas sekarang, karena kendala fisik seperti proses TSV, hasil pengemasan canggih, dan siklus pengiriman peralatan, kapasitas baru paling cepat akan tersedia pada tahun 2028-2029. Bank investasi internasional umumnya percaya bahwa kekurangan struktural HBM akan berlangsung setidaknya hingga tahun 2028. CEO Nvidia, Jensen Huang, secara eksplisit menyatakan: Kekurangan pasokan HBM global "bukanlah fluktuasi pasar jangka pendek, tetapi akan menjadi kesulitan struktural industri yang berlangsung selama bertahun-tahun."

Dari sisi harga, Samsung Electronics dan SK Hynix telah menaikkan harga pasokan HBM3E tahun 2026 hampir 20%. Harga kontrak awal HBM4 12 lapis diperkirakan akan lebih tinggi 10% dari HBM3E 12 lapis tahun 2025.

Struktur Pasar: Siapa yang Memimpin Revolusi Memori Ini?

Pasar HBM menunjukkan konsentrasi yang sangat tinggi. Analis memperkirakan, pangsa pasar pengiriman SK Hynix pada tahun 2026 sekitar 52%, Samsung Electronics sekitar 39%, Micron sekitar 8%, sementara pelaku industri dari Tiongkok Daratan tetap sangat rendah. Dalam hal penjualan, pendapatan HBM SK Hynix pada tahun 2026 diperkirakan mencapai $5,95 miliar, kokoh di posisi pertama global.

Pada kuartal pertama tahun 2026, pangsa pasar HBM global SK Hynix sekitar 51,4%. TrendForce memperkirakan pangsa pasar HBM tahunan SK Hynix pada tahun 2026 dapat dipertahankan sekitar 50%; Counterpoint bahkan memperkirakan pangsa pasarnya di pasar HBM4 akan mencapai 54%.

Margin kotor tiga pabrikan utama telah menembus 70% atau bahkan 80%. Distribusi keuntungan HBM berbentuk "piramida" — semakin dekat ke inti teknologi dan tautan hambatan, semakin tinggi proporsi distribusinya.

Sementara itu, fenomena menarik sedang terjadi: profitabilitas DRAM serba guna secara struktural melampaui HBM. Hingga kuartal pertama tahun 2026, kesenjangan margin operasi antara DRAM serba guna dan HBM telah melebar menjadi lebih dari 15 poin persentase. Perhitungan pasar menunjukkan bahwa pada tahun 2026, mengalokasikan kapasitas ke DRAM serba guna menghasilkan pendapatan per wafer lebih dari dua kali lipat dari HBM, dan laba kotor mendekati tiga kali lipat. Inilah alasan mengapa SK Hynix mempertimbangkan untuk mengalokasikan kembali sebagian sumber daya ke DRAM serba guna — tetapi ini justru menegaskan bahwa seluruh pasar memori sedang mengalami booming yang komprehensif.

Perspektif Investasi: Peluang dalam Siklus Super HBM

Kekurangan struktural HBM dan tren kenaikan harga memberikan dukungan logika industri yang jelas bagi investor.

Pabrikan memori utama adalah penerima manfaat langsung. SK Hynix (saham Korea), Samsung Electronics (saham Korea), dan Micron (saham AS), dengan monopoli teknologi dan kelangkaan kapasitas, memperoleh sebagian besar keuntungan berlebih dalam rantai industri. Morgan Stanley, berdasarkan prediksi kenaikan harga rata-rata DRAM sebesar 62% pada tahun 2026, menaikkan perkiraan laba pabrikan memori sebesar 56% hingga 63%.

Hulu rantai industri juga diuntungkan. Ekspansi kapasitas skala besar oleh pemimpin memori secara langsung mendorong permintaan peralatan semikonduktor seperti etsa, deposisi film tipis, dan pengujian. Tingkat aktivitas rantai industri sedang mentransmisikan dari hulu ke hilir. Permintaan pengemasan canggih HBM juga mendorong industrialisasi teknologi pengemasan 2.5D seperti CoWoS.

Pabrikan chip AI adalah pihak yang membutuhkan HBM pada akhirnya. Permintaan pembelian HBM oleh pemimpin chip AI seperti Nvidia (saham AS) dan Broadcom (saham AS) terus meningkat. Kapasitas HBM per GPU dari Nvidia Rubin Ultra akan ditingkatkan menjadi 1 TB.

Perdagangan Saham Gate: Berpartisipasi dalam Investasi Memori dan AI Global dalam Satu Tempat

Bagi investor yang ingin berpartisipasi dalam siklus super memori ini, Gate Stocks menyediakan jalur masuk yang nyaman.

Saat ini, Gate Stocks telah membentuk sistem layanan perdagangan 7×24 jam yang mencakup tiga pasar inti: saham AS, saham Hong Kong, dan saham Korea. Ini mendukung lebih dari 10.000 saham AS dan ETF, lebih dari 1.500 saham Hong Kong, dan lebih dari 1.000 saham Korea, dengan total mencakup lebih dari 12.500 saham dan aset ETF global. Instrumen yang diliput termasuk perusahaan publik global yang representatif seperti Apple, Nvidia, Microsoft, Tencent Holdings, Xiaomi Corporation, Samsung Electronics, dan SK Hynix.

Pengguna dapat berpartisipasi dalam investasi saham global dalam satu langkah menggunakan USDT melalui akun terpadu Gate, mendukung perdagangan saham pecahan mulai dari serendah 0,01 saham, dan menikmati hak seperti pembagian dividen. Platform ini juga mendukung layanan aksi korporasi seperti pemecahan saham dan penggabungan saham, dan telah mencapai cakupan penuh di aplikasi dan web.

Selain perdagangan pra-pasar, intra-pasar, dan pasca-pasar yang ada, Gate Stocks juga mendukung perdagangan semalam dan akhir pekan, melampaui batasan waktu perdagangan pasar tradisional. Layanan transfer antar broker juga akan segera hadir, yang selanjutnya akan meningkatkan fleksibilitas dan kenyamanan pengelolaan aset saham pengguna.

Cara Bertransaksi: Setelah pengguna mengisi ulang akun terpadu di platform Gate, mereka dapat memilih saham target di modul perdagangan saham dan melakukan pembelian/penjualan dengan harga dalam USDT. Platform ini menyediakan harga real-time, alat analisis teknis, dan pilihan jenis pesanan (pesanan pasar, pesanan batas, dll.), dengan alur operasi yang konsisten dengan pengalaman perdagangan aset kripto.

Penutup

Perbedaan antara HBM dan DRAM, pada dasarnya, adalah perbedaan antara dua jalur teknologi: "prioritas bandwidth" dan "prioritas biaya". Dalam konteks ekspansi daya komputasi AI yang berkelanjutan, HBM, dengan teknologi penumpukan 3D dan TSV, telah berhasil menembus "dinding memori", menjadi komponen inti yang tak tergantikan untuk pelatihan dan inferensi model besar.

Pada tahun 2026, ukuran pasar semikonduktor global menembus $1,51 triliun, chip memori tumbuh 250%, pasar HBM tumbuh 58% menjadi $54,6 miliar. Kesenjangan kapasitas mencapai 50% hingga 60%, dan semua kapasitas tiga pabrikan utama terjual habis. Ini bukan fluktuasi siklus biasa, tetapi perubahan struktural yang didorong oleh belanja modal infrastruktur AI jangka panjang.

Bagi investor, tiga rantai utama — pabrikan memori, peralatan/bahan, dan chip AI — semuanya memiliki dukungan logika industri yang jelas. Dan layanan perdagangan 7×24 jam untuk saham AS, Hong Kong, dan Korea yang disediakan oleh Gate Stocks menawarkan alat yang fleksibel dan efisien bagi investor global untuk berpartisipasi dalam siklus super memori ini. Di saat sentimen pasar sangat ketakutan (indeks ketakutan 14-16), perbedaan antara fundamental industri dan sentimen pasar sering kali melahirkan peluang struktural yang paling layak diperhatikan.

FAQ

P1: Apa perbedaan inti antara HBM dan DRAM?

Perbedaan inti antara HBM dan DRAM tradisional terletak pada arsitektur. DRAM tradisional mengadopsi arsitektur planar, meningkatkan kinerja melalui peningkatan proses; HBM mengadopsi teknologi penumpukan 3D, menggunakan TSV untuk menumpuk beberapa chip DRAM secara vertikal, mencapai jalur data yang sangat lebar. Bandwidth HBM3E dapat mencapai 1,2 TB/s, lebih dari 10 kali lipat DDR5, tetapi biayanya juga 3-5 kali lipat dari DDR5 dengan kapasitas yang sama.

P2: Mengapa model AI besar harus menggunakan HBM?

Pelatihan dan inferensi model besar memerlukan pembacaan dan penulisan berkecepatan tinggi dari sejumlah besar parameter. Pertumbuhan bandwidth DRAM tradisional jauh tertinggal dari peningkatan daya komputasi (daya komputasi naik 60.000 kali dalam 20 tahun, bandwidth hanya naik 100 kali), membentuk hambatan "dinding memori". HBM, dengan bandwidth tingkat TB/s, dapat terus-menerus memasok data ke GPU, menghindari komputasi idle. Semua akselerator AI terkemuka menggunakan HBM.

P3: Siapa pemain utama di pasar HBM?

Pasar HBM sangat terkonsentrasi. Pangsa pasar pengiriman SK Hynix pada tahun 2026 sekitar 52%, Samsung sekitar 39%, Micron sekitar 8%. SK Hynix kokoh di posisi pertama dalam hal penjualan, dengan pendapatan HBM tahun 2026 diperkirakan mencapai $5,95 miliar. Semua kapasitas HBM tiga pabrikan utama pada tahun 2026 telah terjual habis, dan beberapa pelanggan telah mengunci kapasitas hingga tahun 2028.

P4: Berapa lama kekurangan pasokan HBM akan berlangsung?

Bank investasi internasional umumnya percaya bahwa kekurangan pasokan HBM akan berlangsung setidaknya hingga tahun 2028. Sisi permintaan didorong oleh belanja modal infrastruktur AI, sementara sisi pasokan dibatasi oleh kendala fisik seperti proses TSV, hasil pengemasan, dan siklus pengiriman peralatan. Bahkan jika ekspansi dilakukan sekarang, kapasitas baru paling cepat akan tersedia pada tahun 2028-2029. Jensen Huang menyebutnya "kesulitan struktural industri yang berlangsung selama bertahun-tahun".

P5: Bagaimana cara berinvestasi di saham terkait HBM di platform Gate?

Gate Stocks mendukung perdagangan 7×24 jam untuk saham AS, Hong Kong, dan Korea, mencakup lebih dari 12.500 saham dan ETF. Pengguna dapat berinvestasi dalam satu langkah menggunakan USDT melalui akun terpadu, mulai dari serendah 0,01 saham. Instrumen terkait HBM termasuk pabrikan memori SK Hynix (saham Korea), Samsung Electronics (saham Korea), Micron (saham AS), serta pabrikan chip AI seperti Nvidia (saham AS).