Judul asli: Wawancara dengan Eksekutif CoreWeave: Permintaan AI Tampaknya 'Meningkat' Setiap Hari
Penulis asli: Tae Kim
Diterjemahkan: Peggy, BlockBeats

Catatan editor: Wawancara ini memberikan jendela untuk mengamati siklus kekuatan komputasi AI: permintaan tidak mereda karena gelombang pembelian GPU sebelumnya, malah terus didorong oleh agen cerdas, inferensi, dan aplikasi AI tingkat perusahaan.

Wawancara ini menampilkan Co-Founder dan Chief Development Officer CoreWeave, Brannin McBee, serta Vice President of Business Development and Investor Relations, Nick Robbins, membahas kondisi permintaan AI dan pasar neocloud saat ini. Pernyataan utama dari eksekutif CoreWeave sangat langsung—permintaan AI tampaknya meningkat setiap hari dengan cara yang baru, dan hambatan utama beralih dari "apakah GPU tersedia" ke masalah infrastruktur yang lebih kompleks: cangkang pasokan daya pusat data, CPU, penyimpanan, listrik, kemampuan eksekusi rantai pasokan, dan berapa banyak biaya yang bersedia dibayar pelanggan untuk generasi kekuatan komputasi baru.

Keunikan CoreWeave terletak pada posisinya di tengah rantai infrastruktur AI: melayani pelanggan utama seperti OpenAI, Anthropic, Meta, Google, Microsoft, Nvidia, serta secara langsung merasakan perubahan kebutuhan dari laboratorium penelitian, pelanggan perusahaan, dan penyedia cloud skala besar. Oleh karena itu, yang mereka lihat bukan hanya "kekurangan GPU", tetapi perubahan struktural yang sedang terjadi pada beban kerja AI itu sendiri. Dengan munculnya AI agenik dan model reasoning, kebutuhan kekuatan komputasi tidak lagi hanya berpusat pada GPU, tetapi juga meningkatnya pentingnya CPU dan penyimpanan. Desain pusat data generasi baru harus mengakomodasi Vera CPU, server Vera Rubin, dan lebih banyak ruang penyimpanan.

Ini juga menjelaskan mengapa kompetisi infrastruktur AI beralih dari sekadar pengadaan chip ke kemampuan pengiriman rekayasa yang lebih komprehensif. Siapa yang bisa lebih cepat mendapatkan pasokan daya pusat data, men-deploy server, membuka jalur rantai pasokan, dan mengoptimalkan biaya per token, mereka yang paling dekat dengan inti siklus pengeluaran modal AI ini. CoreWeave berulang kali menekankan "berbasis pelanggan", namun di baliknya ada penilaian yang lebih besar: penyedia cloud AI tidak lagi hanya menjual kekuatan komputasi, tetapi secara proaktif merancang ulang pabrik AI generasi berikutnya sesuai peta jalan pelanggan terdepan.

Bagi investor dan pengamat industri, wawancara ini paling menarik bukan sekadar angka tertentu, tetapi arah perubahan kebutuhan infrastruktur AI: GPU tetap penting, tetapi hambatan menyebar; Nvidia tetap menjadi pusat, tetapi CPU, HBM, penyimpanan, dan kemampuan pasokan daya pusat data menjadi variabel baru; permintaan AI tetap meningkat, tetapi keberhasilan di masa depan mungkin bergantung pada siapa yang mampu secara konsisten, stabil, dan skala besar mengirimkan infrastruktur yang kompleks ini.

Berikut teks aslinya:

CoreWeave dipandang sebagai pemimpin pasar awal yang inovatif di bidang neocloud (layanan cloud baru).

Ini adalah satu-satunya penyedia layanan cloud yang mendapatkan "Platinum Rating" tertinggi dari lembaga riset AI SemiAnalysis. CoreWeave didirikan pada 2017 dan menyediakan kekuatan GPU skala besar untuk startup dan perusahaan besar.

Konteks utama Baru-baru ini mewawancarai Co-Founder dan Chief Development Officer CoreWeave, Brannin McBee, serta Vice President of Business Development and Investor Relations, Nick Robbins, membahas kondisi permintaan AI dan pasar neocloud saat ini.

Berikut poin-poin utama dari diskusi ini yang telah diedit:

Permintaan AI Terus Meningkat

Tae: Kapan gelombang permintaan AI agenik mulai meledak?

Brannin: Kami melihat awal yang nyata pada kuartal keempat tahun lalu. Saat itu, kami sedang berkomunikasi dengan pelanggan tentang aspek rekayasa, membahas produk yang mereka prediksi akan diluncurkan ke pasar pada kuartal pertama tahun ini.

Ini selalu menjadi sudut pandang penting dalam menilai kebutuhan pelanggan. Kami memiliki hubungan rekayasa yang sangat mendalam dengan pelanggan. Hubungan ini memungkinkan kami melihat tren lebih awal, bukan menunggu perubahan terjadi dan bereaksi secara pasif.

Dari sudut pandang produk pasar AI, saya katakan bahwa kuartal pertama adalah titik balik besar dalam munculnya inferensi dan konsumsi AI, dan percepatan ini masih berlanjut hingga sekarang.

Tae: Bagaimana kondisi permintaan AI saat ini? Apakah dalam beberapa minggu terakhir tidak menunjukkan tanda-tanda melambat sama sekali dibandingkan beberapa bulan lalu?

Nick: Tampaknya setiap hari semakin meningkat dengan cara yang baru.

Tae: Tolong jelaskan tren peningkatan permintaan CPU relatif terhadap GPU dalam gelombang AI agenik. Apakah kalian akan menempatkan rak Vera CPU di samping server GPU Nvidia?

Brannin: CoreWeave mulai menjalankan CPU sejak 2023. Kami selalu memiliki produk cloud lengkap. Jadi, masalahnya bukan apakah kami baru mulai menambah CPU, tetapi apa yang benar-benar dibutuhkan pelanggan. Apakah kebutuhan ini secara relatif meningkat? Jawabannya sangat jelas—memang demikian.

Seiring munculnya agen dan kemampuan reasoning dalam model, kebutuhan penyimpanan juga meningkat dibanding generasi sebelumnya. Saya percaya tren ini akan terus berlanjut.

Nick: Untuk pertanyaan Anda, jawabannya ya. Anda pasti akan melihat banyak Vera CPU dipasang di samping banyak server Vera Rubin. Tahun lalu, kami secara fundamental merancang ulang solusi pusat data dasar, menyediakan lebih banyak ruang untuk penyimpanan dan CPU, agar bisa dipasang di samping GPU.

Kami melakukan ini karena kami berada di posisi yang sangat unik dalam ekosistem. Kami adalah satu-satunya penyedia cloud independen yang melayani semua pengguna teknologi canggih. Tidak ada penyedia cloud AI independen lain yang bisa mengatakan bahwa mereka melayani pelanggan seperti Anthropic, OpenAI, Meta, Google, Microsoft, Nvidia.

Ini menciptakan lingkaran umpan balik positif yang menguntungkan bisnis kami: kami dapat memahami ke mana teknologi pelanggan akan menuju dan merencanakan sesuai itu.

Hambatan tidak lagi hanya GPU

Tae: Apakah kalian akan lebih banyak menggunakan Vera CPU Nvidia di masa depan?

Nick: Itu tergantung pada beban kerja spesifiknya. Kami melakukan semuanya berdasarkan kebutuhan pelanggan. Kami memang mengantisipasi menjadi salah satu pengguna awal dan penting Vera CPU, dan ini sudah kami umumkan. Saat ini, cluster utama kami masih AMD, tetapi seiring waktu, ini bisa berubah sesuai kebutuhan pelanggan. Minat pelanggan terhadap Vera CPU sangat tinggi.

Brannin: Ini juga mengingatkan kita untuk membahas bagaimana kontrak kita berjalan. Seperti yang Anda tahu, lebih dari 98% pendapatan kami didorong oleh kontrak. Kami tidak menebak-nebak apa yang diinginkan pelanggan dari infrastruktur. Mereka secara sangat jelas memberi tahu apa yang mereka butuhkan. Semuanya berdasarkan kebutuhan pelanggan. Mereka yang menentukan apa yang akan kami bangun.

Tae: Mari bahas kompetisi. Menghadapi SpaceX, Nebius, Oracle di bidang neocloud, serta Azure, AWS, Google sebagai penyedia cloud skala besar, bagaimana cara kalian masuk dan bersaing di pasar?

Brannin: Dari sudut pandang diferensiasi, saya lebih suka melihatnya dari perspektif verifikasi pihak ketiga. Selain China, sembilan dari sepuluh laboratorium AI teratas di dunia menggunakan platform kami. SemiAnalysis selalu menempatkan kami di level tertinggi dari segi performa. Saya tidak percaya bahwa kami mendapatkan alokasi GPU ini karena hubungan pribadi dengan Jensen.

Ini menunjukkan bahwa para penyedia memiliki kepercayaan yang sangat besar terhadap rekam jejak eksekusi dan kemampuan rekayasa kami, yakin bahwa kami mampu menunjukkan kemampuan produk terbaik secara global.

Nick: Kami mampu memenangkan pelanggan penyedia cloud skala besar karena kami sangat mahir dalam eksekusi. Kami bisa membangun sistem ini dengan sangat cepat dan mereka berjalan sangat baik. Kami memenangkan laboratorium riset karena kami menawarkan versi teknologi dengan performa tertinggi dan efisiensi token terbaik.

Kami memenangkan pelanggan perusahaan karena infrastruktur kami berjalan dengan baik dan kami membangun lapisan orkestrasi yang sangat baik, yang juga diakui melalui penghargaan seperti platinum rating.

Namun yang semakin penting, di kalangan penyedia cloud AI, kami telah membangun lapisan kemampuan paling matang, mencakup inferensi dan alat pengembangan, membantu perusahaan benar-benar mengimplementasikan AI ke dalam produksi.

Ini berarti kami membangun dan mengirimkan produk yang akhirnya membantu perusahaan dengan tingkat kematangan teknologi yang lebih rendah mengubah data menjadi model, lalu menjadi agen cerdas yang bisa dijalankan secara internal, dan kami juga bisa melakukan cross-selling layanan cloud CoreWeave selama proses ini.

Tae: Apa hambatan utama saat ini? Apakah pusat data dengan pasokan daya sudah siap? GPU? Atau listrik?

Brannin: Itu adalah powered shells, yaitu cangkang pusat data yang sudah memiliki pasokan daya. Lebih tepatnya, komponen di dalam cangkang tersebut. Anda menyebut listrik, itu benar sekali. Ini adalah bidang yang sangat kompleks.

Tapi yang penting, kami sudah memiliki 49 situs seperti itu yang aktif dan berjalan. Kami tidak berharap hanya mengandalkan satu atau dua situs. Kami sudah melakukan 49 kali.

Ini adalah catatan eksekusi yang sangat solid.

Ini juga berarti kami mengumpulkan banyak pengetahuan, tahu cara mengatasi masalah rantai pasokan, tahu vendor mana yang cocok diajak kerjasama dan mana yang tidak.

Catatan editor: powered shells mengacu pada bangunan pusat data itu sendiri, tidak termasuk perangkat keras server komputasi.

Tae: Apa yang bisa Anda bagikan tentang biaya dan kekurangan memori HBM? Bagaimana cara kalian mengatasinya? Apakah pelanggan harus menanggung biaya kenaikan harga?

Nick: Jawabannya ya. Model bisnis kami dirancang sedemikian rupa sehingga saat menandatangani pesanan pengadaan GPU dan menentukan berapa biaya yang harus kami bayar, kami juga mengunci harga yang akan kami kenakan ke pelanggan. Secara lebih luas, ini termasuk harga server, yang jelas mencakup biaya HBM.

Ini adalah cara kami melindungi diri dari fluktuasi harga harian.

Jika biaya komponen kami naik dalam transaksi berikutnya, kami akan memasukkan kenaikan tersebut ke harga yang kami anggap bisa kami kenakan ke pelanggan, sehingga melindungi margin keuntungan kami. Kami sangat memperhatikan hal ini.

Saat ini, pengadaan komponen bukan hambatan terbesar. Hambatan terbesar adalah powered shell. Tapi di masa depan, jawaban ini bisa berubah-ubah.

Tae: Bagaimana rencana Anda untuk peningkatan deployment Vera Rubin? Bagaimana situasi di paruh kedua tahun ini?

Nick: Kami jelas merupakan perusahaan pertama di dunia yang meluncurkan dan menguji secara lengkap VR, yaitu kabinet Vera Rubin. Tahun lalu, kami juga melakukannya di GB200 dan GB300. Saya perkirakan VR akan mulai muncul di akhir tahun ini.

Saya perkirakan, peningkatan besar dan sangat kuat dalam deployment akan berlangsung sepanjang 2027. Pola ini mirip dengan GB: GB mulai muncul pada 2025, tetapi puncaknya berlangsung sepanjang 2026. Artinya, banyak yang sudah dipasang akhir tahun lalu, tetapi tahun ini adalah tahun utama untuk deployment GB secara besar-besaran.

Saya perkirakan, dalam 12 sampai 18 bulan ke depan, VR akan mengikuti pola yang sangat mirip.

Klik untuk mengetahui ritme BlockBeats dalam perekrutan posisi

Selamat bergabung dengan komunitas resmi BlockBeats:

Langganan Telegram: https://t.me/theblockbeats

Grup diskusi Telegram: https://t.me/BlockBeats_App

Akun resmi Twitter: https://twitter.com/BlockBeatsAsia