Judul Video: Penawaran dan Permintaan Token AI | Wawancara Dylan Patel
Pembuat Video: Invest Like The Best
Diterjemahkan: Peggy, BlockBeats

Catatan Penulis: Di tengah kemampuan model AI yang terus melonjak, serta alat seperti Claude Code, Cursor yang diadopsi secara besar-besaran oleh perusahaan, diskusi industri beralih dari "seberapa kuat model" ke "bagaimana model masuk ke produksi". Namun, saat AI untuk pemrograman, analisis otomatis, dan pemodelan data mulai menjadi konsensus baru, muncul pertanyaan yang lebih mendasar: ketika biaya eksekusi dengan cepat ditekan, apa yang sebenarnya langka—tenaga kerja, modal, atau hak penggunaan model dan token terdepan?

Kiri adalah pembawa acara Patrick O'Shaughnessy, kanan adalah Dylan Patel

Artikel ini disusun dari percakapan antara Patrick O'Shaughnessy dan Dylan Patel, pendiri SemiAnalysis. Dylan yang lama fokus pada infrastruktur AI, rantai pasokan semikonduktor, dan ekonomi model, dalam dialog ini memulai dari lonjakan pengeluaran Claude Code miliknya sendiri, membahas bagaimana AI mengubah organisasi perusahaan, layanan informasi, permintaan token, rantai pasokan daya komputasi, dan suasana sosial.

Yang paling menarik dari percakapan ini bukan lagi tentang model yang sekali lagi menyegarkan benchmark, melainkan cara memahami ekonomi AI—menganggap AI sebagai sistem produksi yang sedang mendistribusikan ulang kemampuan eksekusi, efisiensi organisasi, dan keuntungan industri, bukan sekadar peningkatan alat perangkat lunak.

Percakapan ini dapat dipahami dari lima sudut pandang.

Pertama, biaya eksekusi telah ditembus. Dulu, ide tidak langka, yang sulit adalah mengubah ide menjadi produk, sistem, dan layanan yang dapat disampaikan. Sekarang, Claude Code memungkinkan orang non-teknis menulis kode, membangun aplikasi, melakukan analisis data, pekerjaan yang dulu membutuhkan tim jangka panjang, kini bisa diselesaikan oleh sedikit orang berkat model. Pengeluaran tahunan SemiAnalysis untuk Claude Code sudah mencapai 7 juta dolar, lebih dari seperempat pengeluaran gaji mereka, menunjukkan AI bukan lagi sekadar alat efisiensi, melainkan menjadi modal produksi baru perusahaan.

Kedua, industri layanan informasi yang paling dulu direvisi. Bisnis Dylan secara esensial menjual analisis, konsultasi, dan dataset, yang merupakan bidang paling mudah dikomersialisasi AI. Analisis balik chip, pemodelan jaringan energi, pembangunan indikator makroekonomi—dulu membutuhkan tim besar, kini bisa dilakukan oleh beberapa orang dalam beberapa minggu. Ini berarti tekanan AI terhadap perusahaan layanan informasi bukan soal "apakah akan menggantikan manusia", melainkan "siapa yang bisa lebih cepat meniru ulang produk pesaing". Perusahaan yang tidak mengadopsi AI akan lebih cepat dikomersialisasi, dan perusahaan yang pakai AI harus terus meningkatkan standar agar tidak tergantikan oleh kompetitor yang lebih efisien.

Lebih dalam lagi, token sedang menjadi alat produksi baru. Dulu, perusahaan membeli langganan perangkat lunak, inti masalahnya adalah apakah alatnya mudah digunakan; sekarang, hak akses model terdepan, batas rate limit, kontrak perusahaan, dan anggaran token mulai langsung menentukan kapasitas produksi. Model yang lebih kuat tidak selalu berarti biaya lebih tinggi, karena token yang lebih cerdas bisa menyelesaikan tugas bernilai tinggi dengan langkah lebih sedikit. Kompetisi sebenarnya beralih dari "siapa yang pakai AI" ke "siapa yang bisa mendapatkan model terkuat dan menggunakan token paling mahal di skenario bernilai tertinggi".

Permintaan ini juga akan berlanjut ke seluruh rantai pasokan. Lonjakan penggunaan token akhirnya akan menjadi tekanan berkelanjutan terhadap GPU, CPU, memori, FPGA, PCB, foil tembaga, perangkat semikonduktor, dan pabrik wafer. Efek cambuk ("bullwhip effect") yang disebutkan dalam artikel adalah logika ini: permintaan di hilir tampaknya hanya meningkat karena panggilan model, tetapi di hulu bisa berubah menjadi pesanan yang berkali lipat lipat, ekspansi kapasitas, dan kenaikan harga. Keuntungan industri AI tidak akan terbatas pada perusahaan model dan NVIDIA, melainkan menyebar ke seluruh rantai pasokan semikonduktor dan pusat data.

Terakhir, reaksi sosial terhadap AI mungkin sudah datang lebih awal. Ketika AI benar-benar masuk ke alur kerja, kekhawatiran tentang penggantian pekerjaan, konsumsi energi, ekspansi pusat data, dan konsentrasi kekuasaan akan meningkat secara bersamaan. Dylan bahkan memprediksi dalam tiga bulan bisa muncul protes besar-besaran terhadap AI. Bagi perusahaan model, terus menekankan "AI akan mengubah dunia" mungkin tidak cukup untuk meredakan kekhawatiran, malah memperkuat imajinasi orang awam tentang kekacauan yang tak terkendali. Industri AI perlu membuktikan bukan hanya kemampuan teknis, tetapi bagaimana mereka menciptakan nilai publik yang nyata dan dapat dirasakan saat ini.

Saat ini, inti masalah AI beralih dari "apa yang bisa dilakukan model" ke "siapa yang bisa mengakses model, bagaimana menggunakannya, dan siapa yang bisa menangkap nilai dari penciptaan model tersebut". Dalam arti ini, objek diskusi bukan lagi hanya Claude Code, Anthropic, atau perusahaan AI tertentu, melainkan sebuah reordering struktural yang berfokus pada produktivitas, pengeluaran modal, efisiensi organisasi, dan penerimaan sosial.

Berikut isi aslinya (disusun agar lebih mudah dipahami):

TL; DR

· Variabel inti AI beralih dari "apakah bisa dilakukan" ke "apakah layak dilakukan", setelah biaya eksekusi turun drastis, yang langka sekarang adalah ide bernilai tinggi yang bisa diperbesar model.

· Pengeluaran Claude Code yang mencapai 25% dari biaya gaji hanyalah awal, AI sedang bertransformasi dari alat perangkat lunak menjadi modal produksi perusahaan yang baru.

· Kompetisi model terdepan bukan lagi soal kemampuan, melainkan hak akses token; siapa yang bisa lebih cepat dan stabil mendapatkan model terkuat, berpotensi membangun penghalang bisnis baru.

· Industri layanan informasi akan direvisi paling dulu, karena biaya produksi data, analisis, dan riset menurun pesat, perusahaan yang lambat akan dikomersialisasi lebih cepat.

· Permintaan token tidak akan melambat meskipun harga model lama turun, karena setiap peningkatan kekuatan model akan melahirkan use case bernilai tinggi baru, mendorong pengguna ke model terdepan yang lebih mahal.

· Perubahan terbesar dari AI bukan membuat orang bekerja lebih sedikit, melainkan membuat sedikit orang menghasilkan beberapa kali lipat output dalam waktu yang sama; mereka yang tidak bisa menciptakan dan menangkap nilai token akan terjebak di "dasar permanen".

· Kekurangan daya komputasi menyebar ke seluruh rantai pasokan semikonduktor, dari GPU, CPU, memori, hingga pabrik wafer dan perangkat, karena permintaan AI menjadi kekuatan harga di seluruh industri.

· Nilai ekonomi AI sulit ditangkap oleh GDP tradisional, masalah utamanya bukan berapa banyak perusahaan model yang menghasilkan uang, melainkan berapa banyak "GDP hantu" yang tercipta dari keputusan, efisiensi, dan efek berantai token.

Wawancara lengkap:

Claude Code Menjadi Tenaga Kerja Baru

Patrick O'Shaughnessy (host):
Kamu pernah cerita tentang perubahan besar dalam penggunaan token tahun ini oleh tim kalian. Bisa ceritakan lagi? Apa yang kamu pelajari tentang dunia dari situ?

Dylan Patel (Pendiri SemiAnalysis):
Tahun lalu, kami pikir sudah menjadi pengguna AI berat. Semua orang pakai ChatGPT, semua pakai Claude, saya juga berlangganan berbagai layanan untuk tim. Saat itu, pengeluaran perusahaan di bidang ini sekitar beberapa puluh ribu dolar.

Tapi tahun ini, pengeluaran melonjak. Titik awalnya sekitar Desember lalu, saat munculnya Opus. Termasuk Doug, presiden kami, yang memimpin dorongan agar non-teknisi pakai AI buat kode. Dia secara perlahan membawa seluruh perusahaan masuk ke dalamnya. Engineer memang sudah pakai, tapi mulai Januari pengeluaran kami jelas naik tajam, dan kemudian meledak.

Kemudian kami tandatangan kontrak perusahaan dengan Anthropic. Saat terakhir saya bicara denganmu, pengeluaran tahunan sekitar 5 juta dolar; sekarang sudah 7 juta dolar.

Patrick O'Shaughnessy:
Itu angka minggu lalu.

Dylan Patel:
Iya, sebagian besar karena volume penggunaan itu sendiri. Yang menarik, orang yang sebelumnya tidak pernah menulis kode, sekarang pakai Claude Code, dan ada yang habiskan beberapa ribu dolar per hari. Tapi secara keseluruhan, pengeluaran tahunan kami di Claude Code sudah mencapai 7 juta dolar, sementara pengeluaran gaji sekitar 25 juta dolar. Artinya, pengeluaran Claude Code sudah lebih dari 25% dari gaji.

Kalau tren ini berlanjut, akhir tahun bisa melebihi total gaji. Agak menakutkan. Tapi untungnya, saya tidak harus memilih antara "manusia" dan "AI", karena pertumbuhan perusahaan cepat. Jadi, saya bisa tidak terlalu banyak merekrut, tapi menghabiskan lebih banyak uang untuk AI, dan itu terbukti efektif, perusahaan bisa tumbuh lebih cepat.

Tapi saya rasa, perusahaan lain pasti akan menghadapi masalah ini juga: kalau satu orang pakai Claude Code, bisa menyelesaikan pekerjaan 5, 10, bahkan 15 orang, lalu apa langkah selanjutnya? Pertama, mungkin memang harus PHK; kedua, penggunaan ini sangat luas.

Contohnya, kami punya lab reverse engineering di Oregon, sudah berjalan satu setengah tahun. Ada banyak peralatan canggih, seperti mikroskop elektron, mikroskop pemindaian. Tujuannya utama adalah analisis balik chip, ekstraksi arsitektur, analisis bahan pembuatan. Data ini juga kami jual.

Tapi dulu, analisis data ini sangat lambat. Sekarang, satu orang di tim kami cuma habiskan beberapa ribu dolar token Claude, sudah buat aplikasi yang bisa dipercepat GPU, berjalan di server CoreWeave. Cukup kirim gambar chip, otomatis ditandai bahan apa saja di gambar itu: tembaga, tantalum, germanium, kobalt. Lalu bisa lakukan analisis elemen terbatas secara visual, lengkap dengan dashboard dan antarmuka.

Orang ini dulu kerja di Intel, bilang dulu ini pekerjaan tim lengkap untuk buat dan rawat. Sekarang, hal yang sama bisa dilakukan oleh satu orang saja, dan itu luar biasa.

Contoh lain menarik adalah Malcolm, dulu ekonom di bank besar. Bank itu punya 100-200 orang di bagian ekonomi. Sekarang, dia buat sesuatu yang luar biasa.

Dia sambungkan berbagai data, termasuk data FRED, laporan ketenagakerjaan, dan API lain. Kami juga kontrak dengan penyedia data, dapat akses API. Dia jalankan regresi, analisis pengaruh perubahan ekonomi terhadap inflasi dan deflasi.

Biro statistik tenaga kerja AS punya sekitar 2000 kategori tugas. Malcolm pakai AI untuk evaluasi: mana tugas yang sekarang bisa dilakukan AI, mana tidak, dan beri skor berdasarkan rubrik tertentu. Hasilnya, sekitar 3% tugas sudah bisa diselesaikan AI.

Lalu dia buat indikator untuk ukur mana yang bisa dilakukan AI dan berapa besar efek deflasi yang dihasilkan. Outputnya naik, tapi karena biaya turun drastis, GDP secara teori bisa menyusut. Dia sebut ini "Phantom GDP" (GDP hantu).

Dia buat analisis lengkap berdasarkan konsep ini, termasuk benchmark model bahasa baru, sekitar 2000 evaluasi.

Patrick O'Shaughnessy:
Semua ini dia kerjakan sendiri?

Dylan Patel:
Iya, semua sendiri. Dia bilang: "Bro, ini dulu harus tim ekonomi 200 orang yang kerjain setahun." Sekarang, dia tenggelam dalam Claude, semua berubah.

Patrick O'Shaughnessy:
Sebagai pengusaha, bagaimana kamu memandang ini? Dari hampir tidak ada pengeluaran, sekarang sudah 25% dari gaji, dan terus naik. Sampai titik mana kamu merasa: "Eh, harus rem dulu, kontrol pengeluaran"? Mungkin kita tidak perlu pakai model terbaru seperti Opus 4.7 terus, bisa pakai yang lebih murah?

Dylan Patel:
Intinya, saya jual analisis, konsultasi, dan dataset. Saya tidak lihat alasan ini tidak bisa dikomersialisasi dengan cepat. Kalau saya tidak terus perbaiki, produk data pertama yang saya jual sudah mulai ditiru orang lain. Kita masih bisa jual karena terus perbaiki dan buat lebih baik. Tapi cara kita lakukan di 2023 sudah sangat mirip dengan yang lain. Kalau tidak cepat, kita akan tergantikan.

Jadi, masalahnya: ya, AI akan mengkomersialisasi banyak hal seperti software. Tapi, orang yang bergerak cepat, menguasai hubungan pelanggan, terus berinovasi, tidak akan menyusut, malah akan tumbuh lebih cepat. Yang tidak mampu, tidak bergerak, akan kalah.

Ini seperti soal bertahan hidup: kalau saya tidak pakai AI, orang lain pakai, lalu mereka kalahkan saya.

Contoh lain, di energi. Kami punya analis energi selama setahun, coba bangun model energi. Sangat kompleks, pasar data energi sekitar 9 miliar dolar, jadi pasar besar. Tapi, meski sudah setahun, kami belum benar-benar masuk ke bisnis data energi.

Lalu, "Claude Code mental" datang. Jeremy, yang bertanggung jawab di data center dan industri, mulai pakai Claude Code. Dalam tiga minggu, dia habiskan banyak uang, sekitar 6.000 dolar per hari, tapi hasilnya luar biasa. Dia ambil data dari seluruh pembangkit listrik di AS, peta jaringan listrik, dan data permintaan.

Kami buat dashboard yang bisa lihat kekurangan dan kelebihan listrik di berbagai wilayah kecil di AS, lengkap dengan analisis. Dalam beberapa minggu sudah jadi.

Lalu, kami tunjukkan ke pelanggan yang sudah beli data center kami, termasuk trader energi. Mereka bilang: "Ini butuh berapa lama? Bagus banget, bahkan lebih baik dari perusahaan lain." Ternyata, perusahaan lain yang sudah 10 tahun di bidang ini punya 100 orang.

Produk kami memang belum sehebat mereka, tapi di beberapa aspek sudah lebih baik. Jadi, saya mulai komersialisasi data energi ini. Tapi kalau saya tidak bergerak lebih cepat, siapa yang akan mengkomersialisasi saya?

Dari sudut pandang pengusaha, masalahnya bukan "saya habiskan banyak uang". Tapi, uang itu memberi apa? Menambah pendapatan? Kalau iya, itu berharga.

Patrick O'Shaughnessy:
Kamu khawatir nanti, yang mengendalikan modal dan investasi—yang biasanya juga yang menyewa kamu—bilang: "Kita punya analis sendiri, mereka juga pintar, kita buat sendiri saja." Kalau ini jadi mudah, apa yang terjadi? Mungkin uang akan terkonsentrasi di institusi investasi sendiri? Karena mereka paling bisa manfaatkan data dan insight ini.

Dylan Patel:
Pertama, semua bisnis layanan informasi seperti itu: nilai dari satu info tidak sebesar nilai yang didapat pelanggan dari info itu sendiri.

Kalau saya jual info seharga 1 dolar, kamu mau beli karena info itu membantu kamu buat keputusan, dan keputusan itu bisa buat kamu untung lebih dari 1 dolar. Jadi, kamu dapat peluang arbitrase. Uang yang kamu dapat dari saya lebih besar dari uang yang saya dapat dari jual info.

Fund investasi juga punya kemampuan info sendiri. Seperti Jane Street, Citadel, mereka sangat mendalam dalam data. Tapi mereka tetap beli data kami, terus bertambah.

Ada "it factor" di sini: kami lebih cepat, lebih gesit, tim kecil, fokus di infrastruktur AI dan perubahan besar yang diakibatkannya, termasuk token ekonomi. Kami bisa lihat arah lebih awal, bangun lebih cepat.

Jadi, profesional investasi memang coba buat sendiri apa yang kami lakukan, tapi lebih sering mereka beli data kami, lalu bangun dari situ. Lebih murah daripada mulai dari nol. Tapi tentu, nanti pasti ada yang buat sendiri.

Token Jadi Alat Produksi Baru

Patrick O'Shaughnessy:
Setiap kali ngobrol sama kamu, saya selalu kembali ke satu pertanyaan: pasokan dan permintaan token. Sekarang ini yang paling saya minati. Pengalaman kamu, apa yang baru kamu pahami tentang sisi permintaan? Setelah merasakan langsung, apakah pandangan kamu tentang permintaan token berubah?

Dylan Patel:
Kalau kita mundur sedikit, dari sudut pandang makro, ARR Anthropic mungkin sudah naik dari 9 miliar dolar ke 350-400 miliar dolar. Saat tayangan ini keluar, mungkin sudah 400-450 miliar dolar.

Tapi, kekuatan komputasi mereka tidak meningkat sebanyak itu. Kalau kita hitung, dan asumsikan mereka tidak mengurangi R&D—yang jelas tidak, karena mereka terus rilis model baru seperti Metis, Opus 4, Opus 4.7—maka satu hal yang pasti: penambahan kekuatan komputasi mereka, meskipun seluruhnya digunakan untuk inferensi, margin laba kotor minimal sekitar 72%.

Dalam kenyataannya, sebagian dari kekuatan baru ini juga masuk ke R&D, jadi margin mereka bisa lebih tinggi lagi. Tahun ini, ada bocoran dokumen pendanaan mereka yang menunjukkan margin sekitar 30-an persen, jauh di bawah angka itu.

Bagaimana sebuah bisnis bisa meningkatkan margin dalam waktu singkat seperti ini? Prinsipnya, karena permintaan sangat tinggi. Mereka bisa mengurangi kuota penggunaan, membatasi rate limit, dan lain-lain. Yang penting, mereka harus punya manajer pelanggan di Anthropic, kontrak perusahaan, dan akses rate limit yang lebih tinggi. Kalau tidak, token pasti akan sangat langka.

Siapa yang mampu bayar, dia yang bisa dapat. Anthropic menghadapi masalah yang sama—tentu ini bukan masalah, ini realitas kapitalisme. Ya, pelanggan mungkin bayar 40 miliar dolar per tahun untuk token, tapi nilai yang dihasilkan token di pihak mereka jauh melebihi angka itu.

Nilai yang dihasilkan setiap token berbeda-beda antar perusahaan. Tapi, seiring model makin pintar, yang penting adalah: siapa yang bisa mendapatkan token paling cerdas dan menggunakannya untuk hal paling bernilai.

Sebagai individu, kamu harus memutuskan: bagaimana menggunakan token ini untuk mengembangkan bisnis dan menciptakan nilai. Banyak orang ingin token, dan menghabiskan token. Tapi perusahaan SaaS biasa di San Francisco yang pakai Claude buat software, mungkin tidak benar-benar menciptakan nilai besar. Jadi, mereka akan tersingkir oleh harga token yang terus naik.

Patrick O'Shaughnessy:
Saya sendiri hari ini, dalam perjalanan ke sini, mengalami hal ini. Setelah Opus 4.7 dirilis, saya langsung ingin pakai 4.7, dan langsung dibatasi. Saya bahkan tidak bisa lagi pakai 4.6, padahal minggu lalu saya puas pakai 4.6 yang sudah sangat kuat.

Kamu terkejut tidak orang begitu bersemangat pakai model paling mahal dan terbaru?

Dylan Patel:
Tidak sama sekali. Salah satu kenangan lucu saya bulan lalu adalah, saya dan teman saya Leopold hampir merayu pendiri Anthropic agar memberi kami akses ke Metis.

Kami tahu model itu ada, lalu bilang: "Tolong, izinkan kami pakai." Tapi dia bilang: "Saya nggak tahu apa yang kalian maksud."

Patrick O'Shaughnessy:
Kalau harga dan eval card keluar, reaksi kamu apa?

Dylan Patel:
Sebenarnya, sudah ada rumor di Bay Area sebelumnya, kita tahu model ini pasti sangat kuat. Benchmark-nya memang terus berubah, tapi Mephisto / Metis kemungkinan besar adalah lonjakan kemampuan model terbesar dalam dua tahun terakhir.

Ini sangat penting: model ini begitu kuat, bahkan Anthropic sendiri tidak ingin merilisnya sepenuhnya. Mereka sudah umumkan harga ke beberapa pelanggan dan lakukan rilis terbatas, misalnya untuk keamanan siber. Biaya tokennya mungkin 5 sampai 10 kali lipat model biasa, tapi mereka tetap tidak ingin rilis penuh karena khawatir dampaknya di dunia nyata.

Sekarang, yang diberikan ke kita adalah versi yang lebih lemah, Opus 4.7. Mereka juga jelas bilang di model card: secara sengaja, mereka buat performa keamanan siber yang lebih rendah. Kamu pernah baca bagian itu?

Jadi, saya mau bilang: siapa pun yang punya modal cukup, harus beli langganan perusahaan Anthropic, bayar per token, bukan langganan biasa. Dengan begitu, kamu tidak akan terlalu dibatasi.

Lalu, kamu harus pikirkan: bagaimana menggunakan token ini untuk tugas bernilai tinggi dan menghasilkan uang. Karena, mungkin satu atau dua tahun lagi, banyak bisnis akan berbasiskan arbitrase token. Token sangat kuat, tapi kuncinya adalah tahu mau diarahkan ke mana.

Tiga sampai empat tahun ke depan, model mungkin akan tahu sendiri cara pakai token dan ciptakan nilai maksimal.

Kalau lihat benchmark, dulu untuk capai level kemampuan tertentu butuh biaya X, sekarang mungkin hanya 1% atau 0,1% dari biaya itu. Misalnya, saat GPT-4 capai kemampuan setara, biayanya sekitar 1/600 dari GPT-4. Setelah itu, biaya model GPT-4 terus turun.

Tapi, sekarang orang tidak lagi peduli GPT-4. Mereka mau model terbaru, karena model terbaru bisa ciptakan nilai ekonomi nyata. Tapi, GPT-4 tetap bisa dipakai di beberapa skenario, biasanya yang lebih kecil.

Jadi, yang mendorong permintaan bukan lagi kemampuan lama yang jadi murah, melainkan munculnya use case baru. Sekarang pakai Opus 4.6 atau 4.7, satu tahun lagi, biaya untuk model setara mungkin cuma 7 ribu dolar—100 kali lebih murah.

Tapi itu tidak penting, karena nanti pasti pakai model yang lebih kuat untuk hal yang lebih bernilai.

Metis dari Anthropic memang lebih mahal, tapi konsumsi tokennya jauh lebih sedikit untuk menyelesaikan tugas yang sama. Jadi, di banyak skenario, sebenarnya lebih murah dari Opus 4.6.

Dylan Patel:
Karena efisiensinya jauh lebih tinggi. Walaupun setiap token lebih "pintar" dan mahal, jumlah token yang dibutuhkan untuk menyelesaikan tugas lebih sedikit.

Patrick O'Shaughnessy:
Waktu terakhir ketemu, Metis baru dirilis, atau model card-nya baru keluar. Kamu bilang model ini sangat kuat, bahkan membuatmu takut. Maksudnya apa?

Dylan Patel:
Target Anthropic di 2025, bahkan dari 2024, adalah: akhir 2025 mereka ingin modelnya punya kemampuan setara L4 software engineer. Secara umum, mereka sudah capai dengan Opus 4.6.

Tapi yang mereka tidak bilang, kalau lihat Metis dan benchmark-nya, model ini lebih mirip engineer level 6. L4 itu engineer pemula, L6 sudah sangat berpengalaman.

Saya ingat Anthropic bilang, model ini sudah bisa dipakai internal sejak Februari. Jadi, dalam dua bulan, mereka naik dari L4 ke L6. Lalu, apa yang akan terjadi selanjutnya?

Kalau kita lihat perkembangan model, sebenarnya mereka sedang mempercepat. Ritme rilis Anthropic makin cepat, OpenAI juga. Kenapa? Karena untuk buat model lebih baik, butuh beberapa hal.

Pertama, kekuatan komputasi yang besar. Sangat mahal dan punya siklus waktu sendiri. Kita pantau, memang terus bertambah, tapi dalam jangka pendek sudah pasti. Kapasitas yang sudah mereka tandatangani sebagian besar sudah tetap. Ada penundaan dan penyesuaian, tapi secara umum sudah fix.

Kedua, peneliti hebat yang dibayar miliaran dolar.

Ketiga, kemampuan implementasi. Secara historis, ini sangat sulit. Kalau punya ide, harus direalisasikan, dan itu sulit. Tapi sekarang, ide banyak, realisasi jadi sangat mudah. Mahal, tapi sangat gampang.

Jadi, pertanyaannya: bagaimana seseorang memutuskan ide mana yang harus direalisasikan? Karena, ketika realisasi jadi sangat murah, kita bisa lakukan lebih banyak ide, dan lebih cepat.

Ini bisa terjadi di riset model AI, sehingga jadwal rilis dari enam bulan jadi dua bulan. Atau di bidang lain, misalnya, saya ingin model seluruh pembangkit listrik dan jaringan di AS, analisis supply-demand mikro, sekarang bisa dilakukan.

Ide itu murah. Yang penting, mana yang bermakna, mana yang layak didanai, dibeli tokennya, dan direalisasikan. Karena kemampuan realisasi sudah ada. Ini perubahan paling utama.

Kalau biaya realisasi terus turun—dan memang sedang turun—kita bahkan belum benar-benar punya Metis. Opus 4.7 baru dirilis beberapa jam lalu, tapi tim kami sudah sangat antusias.

Apa yang akan terjadi selanjutnya? Saya rasa, ini akan mengubah cara ekonomi berjalan.

Dulu, eksekusi sangat penting karena sulit, ide murah. Sekarang, ide tidak hanya murah, tapi juga sangat cukup, dan eksekusi jadi sangat mudah. Jadi, yang benar-benar layak dilakukan hanyalah ide-ide yang cukup bagus—yang bisa membuktikan, meskipun realisasi sangat murah, tetap layak dibayar.

Patrick O'Shaughnessy:
Jadi, kamu benar-benar takut? Atau ini cuma ketidakpastian yang sulit dikendalikan?

Dylan Patel:
Ketidakpastian pasti ada. Tapi saya merasa, ini akan membawa semacam ketakutan. Masalahnya, bagaimana masyarakat akan merestrukturisasi dirinya?

Ketika kamu hidup di dunia di mana "kemampuan merealisasikan sesuatu" tidak lagi penting, apa yang jadi penting? Penting adalah, apakah kamu bisa memilih ide yang tepat untuk AI, menjualnya, atau menjual hasil yang AI buat; apakah kamu bisa mengumpulkan modal untuk arah ini. Itu yang akan jadi penting.

Ini kembali ke pertanyaan sebelumnya: memiliki model terbaru itu sangat penting. Siapa yang bisa dapat model terbaru?

Anthropic punya proyek, saya tahu namanya bukan Earwig, tapi saya suka sebut begitu, untuk bercanda. Mereka hanya berikan Metis ke perusahaan tertentu, untuk keamanan siber. Saya rasa ini akan terus terjadi: distribusi model akan semakin terbatas, tidak untuk umum.

Catatan: Earwig secara harfiah berarti "kutu kecil", semut kecil, dalam bahasa Cina juga sering disebut "耳夹子虫". Di sini lebih sebagai julukan bercanda: dari satu sisi, earwig terdengar seperti serangga, dari sisi lain, memberi kesan "diam-diam masuk ke telinga" dan "pengaruh tersembunyi".

Saya tahu OpenAI, Anthropic, dan perusahaan lain bilang mereka ingin semua orang punya AI kuat. Tapi, AI sangat mahal. Siapa yang akan bayar infrastruktur triliunan dolar? Mereka yang kaya dan bisa membangun sesuatu berguna dengan AI.

Dan, kamu tidak ingin orang lain mendistilasi modelmu, jadi tidak akan dirilis secara luas. Kamu berikan ke sedikit pelanggan, dan mereka akan bersaing merebut token.

Kecuali Anthropic menaikkan harga secara besar-besaran. Mereka bisa saja dua kali lipat harga Opus, dan saya tetap bayar. Saya yakin, kebanyakan pengguna juga akan tetap bayar. Tapi, ini bahkan tidak cukup mengatasi kapasitas mereka yang besar.

Jadi, pertanyaannya: di mana siklus ini akan berhenti? Ketika penggunaan token dan nilai tambahnya terkonsentrasi di beberapa perusahaan, apa yang akan terjadi?

Saya belum punya Metis sekarang. Tapi, siapa yang punya? Bank top punya. Mereka mungkin cuma pakai di keamanan siber, tapi bayangkan dunia di mana, karena saya punya kontrak perusahaan dengan Anthropic, dan mereka suka saya, mereka mungkin beri akses lebih awal, atau rate limit lebih tinggi. Saya tentu ingin hal ini terjadi.

Lalu, pesaing saya yang tidak punya akses itu, bisa dikalahkan.

Atau, bisa juga lain ceritanya. Misalnya, Ken Griffin dari Citadel, yang sangat berpengaruh dan kaya. Dia mungkin buat kesepakatan dengan OpenAI atau Anthropic, bilang: "Saya beli token 10 miliar dolar setiap tahun. Setiap model baru keluar, saya beli dulu 10 miliar dolar token, baru orang lain pakai."

Apa yang akan terjadi? Dia bisa menguasai pasar.

Ini cuma contoh. Bisa juga di bidang keamanan siber, misalnya Anthropic khawatir model akan memudahkan peretasan. Atau di layanan info seperti saya, pakai untuk mengalahkan kompetitor.

Saya rasa, dampaknya sangat luas. Kita tidak tahu apa yang bisa dilakukan model ini. Anthropic, OpenAI, dan lain-lain pun tidak tahu. Akhirnya, pengguna akhir yang harus temukan: token ini bisa dipakai untuk apa? Bangun apa? Bayangkan apa?

Ini akan sangat meningkatkan produktivitas, dan punya sisi positif besar. Tapi, kekhawatiran adalah, sumber daya dan hak penggunaan akan terkonsentrasi.

Robot Menyambung Demand Gelombang Berikutnya

Patrick O'Shaughnessy:
Sekarang, token yang dipakai robot atau robotik hampir tidak terlihat dibanding bidang lain. Menurut kamu, ini akan jadi demand curve kedua? Di sekitar satu mil, setiap hari muncul startup robot baru yang coba buat sesuatu menarik?

Dylan Patel:
Ada konsep yang disebut "singularitas perangkat lunak" (software-only singularity). Artinya, dunia mungkin dulu akan mengalami singularitas AI yang hanya terjadi di dunia perangkat lunak. Tapi masalahnya, sebagian besar dunia tetap fisik. Kamu akan lihat, dunia akhirnya akan berpusat pada hardware, bukan cuma perangkat lunak. Jadi, saya rasa "singularitas perangkat lunak" cuma fase singkat, bukan akhir. Karena kita akhirnya akan masuk ke dunia fisik.

Begitu perangkat lunak sangat mudah, bagian paling sulit dari robot apa? Pemrograman, mikrokontroler, aktuator, dan pengendali semuanya. Saat ini, semuanya sangat sulit.

Model AI punya ciri menarik: efisiensi belajar mereka sebenarnya rendah. Hanya karena kita beri data besar, mereka belajar dan kadang melampaui manusia.

Tapi, model robot saat ini, seperti VLA (Vision-Language-Action), sangat populer, tapi saya rasa itu bukan yang akan terus berkembang. Data efisiensinya rendah, dan kita tidak cukup cepat memperbesar data robot.

Di masa depan, pasti ada cara untuk pretrain model robot secara massal, seperti manusia yang terus melihat data sepanjang hidup. Manusia hebat karena sangat "sample-efficient". Satu, dua contoh, kita sudah belajar.

Kalau kemampuan ini diterapkan ke robot, situasinya akan berbeda total. Begitu muncul singularitas perangkat lunak, realisasi jadi sangat murah, siapa saja bisa bangun model ini. Lalu, orang bisa buat robot yang benar-benar berguna.

Jadi, saya rasa dalam 6-18 bulan ke depan, kita akan mulai melihat terobosan nyata di bidang robot. Kemampuan utama adalah few-shot learning, belajar dari sedikit contoh. Nanti, akan ada model robot yang sudah dilatih, dan kamu tinggal tunjukkan beberapa contoh, dia langsung bisa kerjakan.

Kamu berikan dua hal, dia bisa gabungkan dan lakukan. Kamu bilang: "Ini bisa seimbang." Dia akan coba dan lakukan. Percaya deh, saya sendiri sudah sering menjatuhkan barang.

Jadi, saya rasa robot akan punya kemampuan few-shot learning.

Sekarang, banyak perusahaan yang buat robot, untuk iklan atau tugas sederhana. Tapi, nanti akan sangat tersegmentasi. Misalnya, robot buat lipat pakaian, atau bersihkan papan tulis. Bisa jadi layanan sewa, atau paket model yang bisa diunduh ke robot standar, lalu bayar sesuai pakai.

Intinya, bidang produk fisik akan mengalami percepatan besar, dan ini akan menekan harga secara deflasi. Dan ini akan terus mendorong permintaan token melonjak. Jadi, saya tidak percaya permintaan token akan melambat.

Patrick O'Shaughnessy:
Dari hasil Metis dan cara pembuatannya, apa lagi yang kamu pelajari tentang dunia? Kalau kita pecah bagian-bagian scaling laws, misalnya pretraining...

Dylan Patel:
Ini model yang jauh lebih besar dari sebelumnya. 100 ribu blok Blackwell, setara dengan ratusan ribu chip generasi sebelumnya. Tentu, TPU dan Triton punya ritme berbeda, jadi tidak bisa langsung bandingkan. Tapi intinya, Metis adalah model yang jelas lebih besar. Ini membuktikan scaling laws tetap berlaku. Semuanya menunjukkan tren: tambah kekuatan komputasi ke model, makin baik hasilnya.

Selain itu, prosesnya bukan cuma "lebih banyak kekuatan, model jadi lebih baik". Kita juga terus dapat efisiensi komputasi. R&D yang dilakukan di lab akhirnya berujung pada satu hal: kalau saya mau model dengan level tertentu, setiap 6 bulan atau bahkan 2 bulan, biaya untuk capai level itu turun drastis. Kalau saya tingkatkan skala, tetap bisa lonjakan kemampuan besar.

Jadi, ya, ini terus berlanjut. Google dan Anthropic tidak terlalu bergantung GPU, OpenAI juga akan rilis model baru. Mereka ambil pendekatan bertahap dan rasional. Anthropic malah loncat besar tahun ini.

Tahun ini, kita akan lihat model yang makin baik, dan ritme rilis makin cepat.

Patrick O'Shaughnessy:
Percakapan ini sudah lama, tapi hampir tidak menyebut OpenAI. Ini aneh dulu.

Dylan Patel:
Ini yang menarik. Sekarang banyak orang bilang: "Jadi, Anthropic sudah menang, kan?" Mereka punya Metis sejak Februari, tapi tidak rilis karena merasa tidak perlu. Pendapatan mereka tiap bulan naik 10 miliar dolar. Hari ini, mereka rilis Opus 4.7, padahal rumor tentang "Spud" dari OpenAI sudah beredar, bahkan media seperti The Information.

Jadi, secara tampak, Anthropic unggul, OpenAI tampaknya kalah. Tapi, yang menarik, kapasitas Anthropic terbatas. Mereka tidak bisa cepat ekspansi. Dario pernah bilang, OpenAI terlalu agresif soal kekuatan komputasi, sementara Anthropic lebih rasional. Tapi sekarang, mungkin mereka menyesal tidak punya lebih banyak kapasitas.

OpenAI mampu bayar semua ini. Mereka sudah banyak dana, beli kapasitas dari Oracle, CoreWeave, SoftBank, Microsoft, dan lain-lain. Sekarang, mereka juga dapat Trainium dari Amazon.

Jadi, OpenAI melakukan langkah yang sangat agresif soal kekuatan komputasi, dan mereka tahu butuh lebih banyak lagi.

Kalau kita lihat dari model Opus 4.6, tanpa memperhitungkan model makin kuat, dan fokus pada penyebarannya, kamu dan saya mungkin pakai hari pertama rilis. Tapi perusahaan lain butuh waktu belajar. "Momen kebangkitan Claude" tidak akan serentak. Jadi, akhir tahun, model setara Opus 4.6, seluruh ekonomi mungkin akan bersedia bayar 100 miliar dolar per tahun, tidak berlebihan—karena saat ini sudah sekitar 40 miliar dolar.

Patrick O'Shaughnessy:
Itu cuma proyeksi linier.

Dylan Patel:
Iya, proyeksi linier, bukan eksponensial. Untuk eksponensial, butuh model yang lebih baik. Tapi, Anthropic tidak punya kapasitas cukup untuk memenuhi semua permintaan itu. Jadi, kalau OpenAI atau Google cepat mencapai level itu, siapa yang akan melakukannya selanjutnya?

Anthropic mungkin bisa ambil margin 70%, tapi kalau OpenAI mencapai kemampuan yang sama, meskipun margin mereka cuma 50%, mereka akan menguasai semua permintaan tambahan itu. Dan, besar kemungkinan mereka juga tidak cukup kapasitas untuk semua pengguna. Jadi, model seperti Metis, jika ada cukup kekuatan di seluruh dunia, bisa menghasilkan pendapatan 500 miliar dolar, bahkan lebih. Permintaan token sangat tinggi, dan pasokan kekuatan komputasi sangat terbatas.

Kita sudah lihat dari lonjakan harga H100. Umur GPU juga makin panjang. Bahkan laboratorium tingkat dua pun kehabisan token, apalagi laboratorium utama. Mereka akan lebih untung, tapi laboratorium tingkat dua juga akan kehabisan, bahkan tingkat tiga mungkin hampir kehabisan.

Nilai ekonomi dari model terbaik ini berkembang lebih cepat dari kemampuan infrastruktur menyediakan token. Jadi, gap ini akan terus melebar. Margin keuntungan laboratorium model akan terus naik, sampai rantai pasokan hardware dan infrastruktur merespons: "Mengapa saya tidak langsung tingkatkan margin saya?"

Patrick O'Shaughnessy:
Jadi, pandangan kamu tentang permintaan, termasuk contoh SemiAnalysis, sangat eksplosif. Secara lebih luas, saat orang mulai "gila AI", merasakan apa yang bisa mereka lakukan, dan merasa sulit realisasi, saya juga merasakan hal yang sama. Dalam beberapa minggu, pengeluaran token saya melonjak drastis.

Ini adalah indikator permintaan yang cukup bagus. Tapi, apa lagi yang kita lewatkan? Kalau kamu tidak pakai lebih banyak token, kamu tidak akan keluar dari "dasar permanen". Bisa jelaskan?

Yaitu, harus pakai lebih banyak token dan hasilkan nilai lebih dari token itu; tapi banyak orang pakai cara yang membosankan dan malas. Mereka pikir: "Nanti, aku cuma kerja satu jam sehari, sisanya biarkan AI kerjakan."

Dylan Patel:
Itu cara yang membosankan. Cara yang lebih keren adalah: aku tetap kerja 8 jam sehari, tapi hasilnya 8 kali lipat, dan mungkin dapat 5 kali lipat peng