Original video title: Inside the Mind of Anthropic CEO Dario Amodei | The Circuit | Extended Interview

Asal video: Bloomberg Original
Terjemahan: Web3 Sky City

Editor’s note: CEO Anthropic, Dario Amodei, saat ini berada di posisi yang sangat canggung. Di satu sisi memegang model AI nomor satu di dunia, di sisi lain secara tidak sengaja terkena larangan dari pemerintah AS yang menyebabkan seluruh layanan offline di seluruh dunia, bahkan anggota tim non-AS pun tidak bisa menggunakannya.

Bagaimana akhir dari kejadian ini masih belum diketahui, kabarnya Amodei terus berusaha keras, kalian bisa terus mengikuti dan menonton. Tapi kita bisa melihat dari wawancara terbaru Emily ini, sedikit gambaran tentang pemikiran dari pemimpin utama di industri AI Coding yang penuh kontroversi ini.

Sebuah posisi yang sangat unik dan penuh ketegangan di peta kekuasaan Silicon Valley saat ini. Sebagai penantang terkuat dari OpenAI, didirikan oleh sekelompok peneliti top yang memilih “keluar” karena perbedaan nilai.

Ketika CEO Amodei duduk di bawah sorotan dan membahas pertumbuhan eksponensial AI, dia menunjukkan ketenangan yang jarang terlihat, seperti seorang dokter bedah. Ini bukan hanya kompetisi teknologi, tapi juga permainan mendalam tentang kepercayaan, keamanan, dan bagaimana peradaban manusia harus bersikap saat menghadapi ledakan kecerdasan.

Ringkasan lengkap

Wawancara terbaru ini mendalami perjalanan batin CEO Anthropic, Dario Amodei, dalam menghadapi pertumbuhan eksponensial AI, termasuk kisah di balik kepergian dari OpenAI, pilihan model bisnis perusahaan, hingga dampak AI terhadap pasar kerja, keamanan siber, dan geopolitik.

CEO menjelaskan secara rinci bagaimana Anthropic membangun mekanisme seperti “trust long-term benefit” untuk menyeimbangkan kekuasaan, serta menjalankan nilai keamanan dengan menetapkan “garis merah” dan menunda peluncuran model risiko tinggi seperti Mythos.

Catatan, pernyataan Amodei selama ini cukup tidak bersahabat terhadap negara-negara Timur, jadi silakan menilai sendiri.

Intisari utama

· Industri AI sedang dalam fase “pertumbuhan eksponensial yang stabil”, di mana akumulasi perubahan kuantitatif akhirnya memunculkan ledakan kualitatif.

· Kepercayaan adalah fondasi kolaborasi di industri AI, dan Anthropic mendukung para pelaku yang dapat dipercaya untuk bersama-sama membangun standar industri.

· Model bisnis perusahaan dan nilai keamanan AI lebih selaras, menghindari kompetisi konten adiktif dan berkualitas rendah yang umum di pasar konsumen.

· Untuk risiko pengangguran yang dipicu AI, masyarakat perlu merencanakan kebijakan makro ekonomi dan mencari win-win “menggunakan sumber daya yang sama untuk melakukan lebih banyak hal”.

· Aplikasi militer harus berpegang pada prinsip “manusia di loop”, menjaga garis merah terhadap pengawasan massal dan senjata otonom penuh.

Berikut adalah seluruh wawancara lengkapnya:

Tekanan dan pengalaman pertumbuhan eksponensial

Emily Zhang: Berapa banyak waktu tidur yang kamu miliki?

Dario Amodei: Saya bukan orang yang tidur dengan kualitas sangat baik. Bisa dibilang, saya sedang belajar menguasai seni rileks dan tidur di saat tekanan luar biasa.

Emily Zhang: Semuanya berjalan sangat cepat. Apa rasanya berada di dalamnya?

Dario Amodei: Itu adalah sensasi pertumbuhan eksponensial. Seperti misalnya, jika kamu naik pesawat luar angkasa dengan kecepatan relativistik menjauh dari bumi. Relativitas khusus menyatakan bahwa saat kamu tidur dan bangun, di bumi sudah berlalu dua hari. Jadi, kamu harus menyelesaikan dua hari pekerjaan dalam satu hari.

Lalu kamu tidur lagi, karena terus mempercepat, di bumi sudah berlalu tiga hari. Hari berikutnya, empat hari berlalu. Perasaan itu kira-kira seperti itu.

Emily Zhang: Apakah kamu sering merasa cemas karena takut menghadapi apa yang akan kamu temui saat bangun?

Dario Amodei: Masalah yang harus kita tangani sudah cukup banyak dan jelas, dan sambil mengatasi itu semua, saya juga memikirkan bagaimana kita harus bersiap. Tapi saya rasa, paranoia atau kekhawatiran tentang apa yang akan dihadapi setelah bangun tidak ada gunanya. Saya pernah belajar dari orang-orang yang pernah menghadapi tekanan tinggi seperti ini di sejarah. Kamu harus belajar bersikap rasional, jangan membandingkan tingkat bahaya yang berbeda-beda.

Keadaan yang berayun antara “saya tidak khawatir” dan “Ya Tuhan, kita harus panik hari ini” ini menurut saya adalah tanda keputusan yang belum matang. Keputusan matang adalah, kamu tidak bisa mengabaikan hal ini, dan kita juga tidak boleh lengah.

Faktanya, risiko semakin besar, tapi kita harus bersikap rasional, seperti dokter bedah yang melakukan operasi. Atau seperti perwira militer yang mengatur operasi militer, atau siapa pun yang membuat keputusan penting yang mempengaruhi banyak orang, harus rasional dan memahami risiko, tapi juga harus tetap tenang.

Jadi, kemarin anak saya tanya, apakah dia boleh pakai akun Claude saya, saya bilang tidak boleh, saya butuh token saya. Kita semakin banyak melihat aplikasi ini di pasar konsumen, padahal awalnya kita ingin menjadi perusahaan yang fokus ke bisnis enterprise, tapi meskipun kita tidak terlalu fokus, bisnis konsumen mulai berkembang pesat.

Emily Zhang: Kamu sekarang berada di pusat alam semesta AI, bagaimana rasanya?

Dario Amodei: Menariknya, selama karier saya, terutama sejak bergabung dengan Anthropic, yang saya alami adalah sebuah pertumbuhan eksponensial yang stabil.

Pengalaman pertumbuhan eksponensial yang stabil itu adalah: tidak ada yang terjadi, tidak ada yang terjadi, tidak ada yang terjadi, lalu muncul hal kecil, dan tiba-tiba meledak secara luar biasa. Itulah pengalaman dunia ini. Dan ini juga pengalaman skala perusahaan dibandingkan perusahaan lain dan dunia secara keseluruhan.

Jadi saya memantau grafik ini cukup lama, lalu saya bilang, kemungkinan besar kita akan menjadi perusahaan AI dengan pendapatan dan valuasi tertinggi sekitar waktu ini. Dan memang benar, itu terjadi. Jadi, dari sudut pandang tertentu, saya tidak terkejut karena kurva di grafik sangat halus.

Tapi dari sudut pandang lain, saat hal benar-benar terjadi, kita akan melihat lebih banyak detail dan warna yang lebih kaya. Dan itu pasti mengejutkan.

Kita selalu mengingat pertanyaan utama: bagaimana kita melatih model yang bagus? Bagaimana kita mengaplikasikannya ke produk yang bagus? Bagaimana memastikan semuanya aman? Bagaimana kita mengelola risiko sosial yang muncul dari teknologi ini sambil membantu orang? Semua ini adalah pertanyaan yang sama, hanya saja dilihat melalui mikroskop yang lebih besar.

Latar belakang dan semangat Silicon Valley

Emily Zhang: Saat kecil di San Francisco, seperti apa kamu? Saya tahu ayahmu seorang pengrajin kulit, dan ibumu bekerja di perpustakaan, pengaruh apa yang mereka berikan padamu?

Dario Amodei: Saat itu, revolusi internet sedang terjadi di sekitar saya, tapi saya sama sekali tidak tertarik. Saya hanya tertarik mempelajari matematika dan hal-hal seperti menggambar dan menulis. Saya sangat tertarik menjelajahi alam semesta. Saya suka cerita fiksi ilmiah. Secara umum, itu adalah lingkungan tempat saya tumbuh. Saya rasa, saya hanya memiliki rasa ingin tahu yang besar terhadap dunia ini.

Emily Zhang: Kamu tumbuh di tempat yang disebut pusat teknologi, dan sekarang menjadi pusat AI. Tempat ini, kota ini, apa faktor yang membentuk pandangan dunia kamu?

Dario Amodei: Ada. Saya percaya bahwa semangat tidak mengikuti arus, menghargai individualisme, dan beranggapan “gila sedikit tidak apa-apa” memang ada di sana. Banyak dari pengaruh itu mungkin secara tidak langsung mempengaruhi saya.

Kamu akan mendengar cerita, misalnya, saat kamu pergi ke beberapa negara di Eropa, bahkan ke daerah lain di negara ini, cara berpikir yang berbeda seringkali dianggap aneh atau dianggap sebagai perilaku yang aneh, atau memiliki ide-ide gila.

Saya sebenarnya cukup kritis terhadap Silicon Valley, tapi saya rasa satu hal yang bagus adalah, di sana didorong sebuah filosofi: bahwa meskipun semua pakar menentangmu, itu tidak masalah. Jika kamu punya visi dan pandangan dunia yang koheren, kamu harus mengejarnya, itu yang terpenting. Mungkin itu tidak berhasil sama sekali.

Tapi jika berhasil, itu akan memiliki efek ekor panjang tertentu, di bidang tertentu kamu bisa menggali lebih dalam dan akhirnya menemukan tambang emas besar. Saya rasa semangat ini sangat penting.

Emily Zhang: Kamu, Daniela, adik perempuanmu, dan suaminya Holden Karnovsky, pernah tinggal serumah bersama di tahun 2016. Apa yang kalian debatkan saat itu?

Dario Amodei: Saya rasa saat itu adalah masa awal dimulainya proyek Open Philanthropy, Holden adalah kepala proyek tersebut. Saat itu saya adalah ilmuwan biologi. Jadi, saya membantu mereka mengurus hal-hal terkait kesehatan di negara berkembang atau penelitian biologi. Jadi, saya memberi saran tentang bidang apa yang menjanjikan, dan mana yang kurang.

Perbedaan utama yang menyebabkan kamu keluar dari OpenAI

Emily Zhang: Keputusanmu keluar dari OpenAI sudah menjadi legenda di Silicon Valley. Apa yang sebenarnya terjadi? Lewat narasi apa pun, apa inti permasalahannya? Di mana perbedaan pendapatmu?

Dario Amodei: Dengar, saya harus bilang, saya ingin bilang dengan sangat sederhana. Saat kamu membangun teknologi canggih, banyak tantangan yang harus dihadapi, dan Anthropic setiap hari mengalaminya. Kita tidak tahu apakah keputusan kita benar atau salah.

Jadi, dalam hal keamanan, ada banyak kontroversi yang masuk akal. Kami tentu punya perbedaan pendapat dengan mereka, tapi perlu diingat, hanya karena ada perbedaan pendapat tidak berarti kita harus keluar. Orang-orang di sini pernah berbeda pendapat dengan saya. Mereka juga punya perbedaan pendapat satu sama lain.

Tapi, ketika kamu merasa tidak bisa lagi mempercayai seseorang, ketika kamu merasa nilai-nilai mereka tidak sesuai dengan yang mereka katakan, ketika kamu merasa mereka tidak jujur, ketika kamu melihat pola perilaku yang mengkhawatirkan atau ketidakjujuran, itu akan membuatmu sulit untuk terus bekerja di perusahaan dan sulit mempercayai perusahaan itu sendiri. Pada akhirnya, ketika kamu tidak lagi memiliki visi yang sama dan tidak lagi percaya satu sama lain, untuk apa lagi berdebat?

Solusinya adalah berpisah dan menjalankan jalan masing-masing. Saya sepenuhnya menerima kenyataan ini: kita melakukan hal kita sendiri, mereka melakukan hal mereka sendiri. Kita akan lihat siapa yang akan menang di pasar dan siapa yang akan menang di pengadilan opini. Saya percaya, fakta ini lebih kuat daripada spekulasi dramatis tentang siapa yang keluar dan mengapa.

Kita harus sadar, kita sedang memberi contoh tentang bagaimana seharusnya teknologi ini digunakan secara bertanggung jawab. Jika mereka punya keberatan, mereka harus mengajukan argumen. Saya rasa, tidak perlu banyak bicara soal ini.

Kerja sama industri dan membangun kembali kepercayaan

Emily Zhang: Di AI Summit India, ada momen di mana kamu dan Sam Altman tampaknya menolak berjabat tangan di panggung. Apa yang sebenarnya terjadi?

Dario Amodei: Saat itu, situasinya sangat kacau. Kami baru naik panggung di saat terakhir, mereka mengubah posisi secara mendadak. Lalu mereka memotret kami, dan memerintahkan kami semua untuk saling berpegangan tangan. Kalau kamu pernah ikut acara seperti ini—saya tidak bermaksud menjelekkan India—tapi semua konferensi internasional yang melibatkan kepala negara biasanya sangat kacau.

Emily Zhang: Tapi yang lain semua berjabat tangan. Tolong.

Dario Amodei: Dengar, saya tidak tahu harus bilang apa. Saat itu, Narendra Modi ada di atas panggung, tiba-tiba dia memanggil semua orang untuk berjabat tangan.

Emily Zhang: Baiklah, baiklah.

Narrator: Lihat, Sam dan Elon saling menuduh. Sepertinya kamu tidak suka Sam.

Emily Zhang: Kalau para pengembang teknologi terpenting di dunia ini saja tidak bisa berjabat tangan di panggung, bagaimana kita bisa percaya mereka akan bekerja sama dalam risiko eksistensial?

Dario Amodei: Jadi, ini yang ingin saya sampaikan. Di antara orang-orang yang membangun teknologi ini, kualitas dan kepercayaan mereka sangat berbeda. Saya rasa, ini berarti bahwa orang-orang yang berbeda-beda, dan mereka merasa tidak saling percaya, itu tidak benar.

Saya kenal Demis Hassabis yang membangun model Gemini, yang bersaing dengan Claude. Saya sudah kenal mereka 15 tahun. Kami pernah bekerja sama mengatasi banyak masalah. Kami membeli sumber daya komputasi dari Google. Kami sering bertukar ide tentang keamanan.

Jadi, menurut saya, pertama, ada beberapa pelaku yang lebih dapat dipercaya daripada yang lain. Dan saya percaya bahwa di luar Anthropic, ada juga pelaku yang saya percaya dan layak dipercaya. Saya rasa, yang perlu dilakukan adalah, pelaku yang dapat dipercaya harus bersatu untuk menghadapi mereka yang tidak dapat dipercaya. Membuat semua pelaku mengikuti standar yang sama.

Dari pengalaman saya, saya tahu bahwa tidak semua orang secara sadar melakukan hal yang benar. Tapi jika mayoritas di industri melakukan hal yang benar, saya rasa yang lain tidak punya pilihan selain mengikuti arus. Ini adalah versi positifnya, kamu bisa memotivasi orang lain.

Ini seperti Demis dan saya saling memotivasi. Dia mengerjakan AlphaFold. Kami juga mencoba melakukan sesuatu di bidang biologi, seperti riset interpretabilitas. Mereka mulai melakukan riset interpretabilitas. Bahkan ini bukan kompetisi.

Ini karena setiap perusahaan melakukan hal-hal keren. Perusahaan lain melihat itu keren dan ingin mencoba juga, melihat apakah mereka bisa menciptakan sesuatu yang baru dari situ. Ini adalah sisi “wortel” dari kompetisi puncak. Ada juga “tongkat”—atau secara implisit, “tongkat besar”—yaitu, kamu sadar bahwa orang-orang ini melakukan hal yang benar. Kalau orang lain tidak melakukan hal yang benar, kelihatannya akan buruk.

Kita sering melihat perilaku seperti ini: mereka secara paksa melakukan hal yang benar, tapi berusaha berpura-pura melakukan hal berbeda, dan mengisyaratkan bahwa ada niat buruk atau jahat di baliknya, yang bisa diprediksi. Tapi saya rasa, ini adalah cara kita mengintegrasikan industri dan mendorong kolaborasi.

Model bisnis: kesesuaian antara enterprise dan nilai

Emily Zhang: Sebelumnya, orang lain fokus pada aplikasi konsumen yang menarik dan mencolok. Kamu memilih fokus ke pengkodean dan enterprise, dan Claude Code sangat sukses, begitu juga Claude Co-work. Mengapa kamu mengambil taruhan ini? Apakah ini keputusan berdasarkan nilai atau bisnis?

Dario Amodei: Saat kami mendirikan Anthropic, hal paling mendasar dan penting adalah keinginan dari dalam diri kami. Kami ingin melakukan ini dengan cara yang benar. Tapi kamu harus bertanya pada diri sendiri, untuk membiayai proses pembuatan model yang sangat mahal ini, perusahaan harus punya model bisnis yang sesuai. Apakah model bisnis akan menghambat pencapaian nilai-nilai?

Pertanyaan ini selalu ada. Tapi dari pengalaman saya di perusahaan lain dan mengamati perusahaan lain, saya belajar bahwa: Jika model bisnis yang kamu pilih bertentangan secara mendasar dengan nilai-nilai kamu, kamu akan menghadapi situasi sulit. Kamu bisa mengkhianati nilai-nilai kamu sendiri, atau akhirnya tertinggal oleh zaman.

Kamu akan terjebak dalam dilema, meski ada cara menghindarinya, tapi itu tetap sangat rumit. Memilih model bisnis yang sejalan dengan nilai-nilai kamu jauh lebih baik.

Jadi, saat memikirkan hal ini, kami berpendapat, kita sudah melihat dunia media sosial dan konsumsi, yang sepertinya memang mendorong interaksi dan bahkan kecanduan. Dari model konten yang dihasilkan secara massal dan buruk di AI video, logikanya adalah memaksimalkan perhatian yang kita berikan, karena itu didorong oleh insentif iklan.

Tapi jika kita lihat ke dunia enterprise, kita ingin model ini membantu orang. Kalau saya pikirkan semua hal positif yang bisa dilakukan AI, saya sering mengingatkan orang tentang dampak negatifnya, tapi secara fundamental, kami percaya bahwa sisi positif akan mengalahkan sisi negatif. Banyak aplikasi positif ini sebenarnya termasuk dalam kategori aplikasi enterprise.

Kami ingin menggunakan AI untuk menyembuhkan penyakit yang sebelumnya tidak bisa disembuhkan, yang membutuhkan kolaborasi dengan perusahaan bioteknologi, farmasi, dan lembaga akademik. Semuanya adalah perusahaan, dan kami ingin AI membuat energi lebih murah dan efisien. Ini semua termasuk aplikasi perusahaan.

Kami ingin menggunakan AI untuk membantu pendidikan. Sebagian besar termasuk dalam aplikasi enterprise. Kami ingin AI membantu mengatasi masalah kesehatan dan pembangunan di negara berkembang. Meski mereka adalah organisasi nirlaba, secara esensial mereka termasuk kategori perusahaan. Kami ingin mendorong pertumbuhan ekonomi. Ini juga termasuk kategori enterprise.

Selain itu, ada faktor lain, yaitu perusahaan sangat menghargai kepercayaan dan hubungan jangka panjang. Aplikasi konsumen kadang terasa seperti gimmick, sementara di level enterprise, yang penting adalah membangun hubungan kerja sama: kamu bekerja sama dengan satu perusahaan selama bertahun-tahun, dan mereka percaya padamu karena kamu memenuhi janji. Jadi, ini sangat selaras dengan tujuan kami untuk menerapkan model ini secara bertanggung jawab dan aman. Oleh karena itu, saya rasa, memiliki model bisnis yang sangat sesuai dengan nilai-nilai kami sangat menguntungkan.

Bukan berarti tidak ada konflik, dan bukan berarti kita tidak harus membuat pilihan sulit, tapi saya rasa jumlahnya jauh lebih sedikit dibandingkan situasi lain.

Keunggulan kompetitif dan “Akhir SaaS”

Emily Zhang: Pengembang bisa beralih dari Claude ke GPT atau Gemini dalam satu sore. Dalam industri ini, apakah benar-benar mungkin mempertahankan keunggulan jangka panjang? Dan, menurutmu, berapa lama kompetitor serius bisa menyalin apa yang sudah kamu bangun?

Dario Amodei: Kualitas model adalah hal terpenting. Misalnya, saat ini kami sangat unggul dalam kualitas model. Meski ada inertia, saya tidak pernah bergantung pada hal itu, dan Anthropic pun tidak pernah bergantung pada “ketahanan produk dan pengguna yang tidak mau beralih”.

Saya rasa, kamu tetap ingin memiliki model yang lebih baik. Kamu ingin produk yang lebih baik. Dan, kita melihat tingkat pertumbuhan yang tidak menunjukkan penurunan, malah meningkat, setidaknya saat wawancara ini direkam. Jadi, saya rasa, ini adalah hal terpenting.

Emily Zhang: Setelah peluncuran Claude Co-Work, nilai pasar sebesar 285 miliar dolar menguap dalam semalam, dan para trader menyebutnya sebagai “Akhir SaaS” (SaaSpocalypse). Jika AI terus berkembang secepat ini, berapa banyak software tradisional yang akan tergantikan, dan seberapa cepat?

Dario Amodei: Ini adalah pertanyaan yang sangat sulit diprediksi. Kalau kamu bisa memprediksi secara sempurna, berarti kamu sudah melakukannya dan mendapatkan kekayaan besar dari pasar, dan selalu benar.

Jadi, tidak ada yang tahu pasti apa yang akan terjadi, tapi saya ingin menunjukkan beberapa poin: semua perusahaan software tradisional punya keunggulan tertentu. Saya rasa, yang akan terjadi adalah, beberapa keunggulan itu akan hilang, tapi yang lain akan tetap ada. Kemampuan menulis software dengan cepat, saya yakin, akan hilang. Kalau keunggulanmu adalah “kami menulis software kompleks yang tidak bisa ditulis orang lain”, ya, semoga beruntung. Kamu tidak akan bisa membela itu.

Tapi saya percaya, orang-orang punya hubungan pelanggan. Mereka punya keahlian tentang cara kerja bidang ini. Mereka punya pengetahuan domain yang unik. Jadi, saran saya, jangan sombong. Jangan mengabaikan itu. Daftar semua keunggulanmu dan sadari bahwa beberapa akan hilang, sementara yang lain akan menjadi lebih penting karena membatasi. Dan mungkin, keunggulan baru akan muncul.

Saya rasa, orang yang mampu beradaptasi secara lincah, memanfaatkan keunggulan yang masih ada dan yang baru muncul, akan sukses. Saya rasa, orang yang puas diri dan berpikir bahwa metode lama akan selalu berlaku, tidak akan bertahan lama. Mereka akan mengalami masa sulit. Jadi, itu saran saya.

Dan, saya rasa, pada akhirnya—tentu saja tergantung bagaimana kamu mendefinisikan SaaS dan apa yang kamu anggap bukan SaaS—saya menduga industri perangkat lunak akan menjadi lebih besar, bukan lebih kecil, meskipun akan ada beberapa yang kalah besar.

Emily Zhang: Jelaskan maksudmu.

Dario Amodei: Saya hanya berpikir, kue-nya semakin besar. Misalnya, dengan AI, kue ini semakin membesar. Perusahaan besar yang ada saat ini mungkin akan menjadi lebih kecil secara relatif. Nilai beberapa perusahaan bisa turun. Kalau mereka tidak menyesuaikan diri dengan benar, beberapa bahkan bisa bangkrut.

Tapi saya percaya, saat pertumbuhan sangat cepat, kita sering melihat situasi ini: kalau potensi AI meningkat 10 kali lipat, industri yang sudah ada bisa tumbuh 1,5 kali lipat dengan sangat mudah, karena pertumbuhan keseluruhan tidak sebesar pertumbuhan besar dari kue itu sendiri. Jadi, saya rasa, ini bisa terjadi.

Ini bukan berarti kita tidak akan melihat kerugian besar. Saya rasa, yang tidak mampu beradaptasi, menutup mata terhadap tren masa depan, dan tidak mampu mengenali keunggulan mereka sendiri, akan menghadapi masa sulit.

Kapasitas komputasi, pendanaan, dan mitra

Emily Zhang: Kamu didukung oleh perusahaan besar seperti Amazon, Google, Microsoft, dan NVIDIA. Mereka punya agenda masing-masing. Mereka adalah mitra sekaligus kompetitor. Kamu punya tonggak bisnis besar yang terkait dana. Siapa yang sebenarnya memegang kendali?

Dario Amodei: Kami memang pernah secara terbuka menyatakan pendapat secara jujur. Saya selalu sangat tegas mendukung pengendalian ekspor chip ke China. Saya bilang begitu karena saya percaya, jika China memimpin dalam kemampuan AI, itu akan sangat buruk untuk AS dan dunia secara keseluruhan. Beberapa produsen chip jelas tidak setuju, tapi itu tidak menghentikan saya untuk menyatakan pendapat.

Bahkan setelah menandatangani lebih banyak perjanjian kerjasama, saya tetap mengulangi hal ini. Mereka tahu, kita selalu bekerja sama dengan mereka. Kita mitra yang baik. Kita bisa bekerja sama. Saya yakin mereka ingin kita tidak mengatakan hal ini, tapi itu adalah keyakinan saya.

Apa langkahmu? Mereka akhirnya akan setuju. Mereka mendapatkan manfaat dari transaksi ini, sama seperti kita. Kita semua dewasa, kan? Kita bisa bekerja sama di satu hal, dan di hal lain, kita punya perbedaan.

Emily Zhang: Bloomberg melaporkan, valuasi kalian bahkan lebih tinggi dari OpenAI. Kita bicara tentang startup berumur lima tahun yang valuasinya mendekati satu triliun dolar. Bagaimana kamu memahaminya? Tentang angka itu, dan karena kamu lebih disiplin soal sumber daya komputasi dan punya jalur profit yang lebih cepat, mengapa kamu butuh dana sebanyak ini?

Dario Amodei: Kapasitas komputasi berkembang sangat cepat, jadi secara fundamental bisnis terlihat baik, tapi setahun kemudian, kapasitas komputasi bisa tiga sampai empat kali lipat dari sekarang—saya tidak akan berikan angka pasti, tapi pertumbuhan kapasitas ini sangat pesat.

Kami yakin, pendapatan akan tumbuh mencapai dan melampaui skala ini. Penggalangan dana adalah buffer untuk menghadapi ketidakpastian ini.

Jadi, ini adalah langkah yang sangat rasional. Dilusi saham yang terjadi sangat kecil, secara logis, keduanya tidak saling bertentangan. Bahkan, ini kompatibel, dan tidak berarti fundamental bisnis bermasalah.

Emily Zhang: Ada laporan tentang beban server yang terlalu berat, masalah keandalan, dan token habis. Kamu pernah bilang, perusahaan lain berinvestasi besar-besaran dalam infrastruktur. Apakah kamu benar-benar punya apa yang kamu butuhkan, atau kamu hanya mengejar ketertinggalan?

Dario Amodei: Tentang kapasitas komputasi, ada yang disebut “kapasitas pemasaran”, jadi, menurut saya, dalam waktu tertentu—bahkan lebih dari beberapa bulan—kita bisa mendapatkan kapasitas besar. Yang perlu dicatat adalah, saya tidak merasa kapasitas yang kita beli terlalu sedikit dengan standar apapun.

Rencana awal kami adalah kapasitas tumbuh 10 kali lipat setiap tahun.

10 kali lipat per tahun adalah target kami. Tapi kenyataannya, saat ini, di kuartal pertama 2026, pendapatan kuartalan kami meningkat lebih dari 3 kali lipat, dan ini hanya data kuartal, bukan tahunan. Dalam satu kuartal, meningkat 3 kali lipat, dan 3 pangkat 4 adalah 81, jadi pertumbuhan tahunan bisa mencapai 80 kali lipat.

Kami tidak pernah memperkirakan pertumbuhan tahunan sebesar 80 kali lipat. Kalau kita rencanakan dengan target pertumbuhan 80 kali lipat, itu tidak rasional, karena kalau akhirnya cuma 10 kali lipat, berarti kita kurang 8 kali lipat. Jadi, kita sedang berada di fase ledakan kapasitas yang sangat ekstrem. Situasi ini tidak akan berlangsung selamanya.

Kalau terus berlanjut, di akhir tahun, kita akan mendapatkan angka pendapatan yang tidak bisa dicapai perusahaan lain di dunia. Saya tidak percaya itu akan terjadi. Itu hanya, memang, tidak mungkin bertahan.

Tapi, kamu mungkin akan mengalami periode singkat di mana kamu akan terkejut, “Wow, ini pertumbuhan tercepat yang pernah saya lihat”. Tapi, saya tidak tahu, kamu sudah melihat kesepakatan kapasitas dengan Google, dan Amazon. Kita bisa dan akan melakukan lebih banyak lagi.

Misalnya, pasar itu dinamis. Kalau kamu bisa memanfaatkan kapasitas secara sangat efisien dan ada permintaan, kamu bisa mendapatkan kapasitas yang kamu butuhkan. Mungkin hanya butuh satu atau dua bulan.

Memimpin perlombaan puncak dan budaya perusahaan

Emily Zhang: Bagaimana rasanya mengalahkan musuh bebuyutan?

Dario Amodei: Dengar, kita masih menghadapi banyak tantangan besar. Kita punya filosofi “berlomba ke puncak”, yaitu mencoba mendorong perusahaan lain untuk mengikuti jejak kita. Saya rasa, kita sudah melihat bahwa kita memang mempengaruhi mereka. Kadang mereka tidak mengakuinya.

Kadang mereka meniru kita saat menyerang, tapi ini adalah bentuk dorongan yang sangat berharga.

Jadi, saya rasa, dari sudut pandang bisnis maupun model, menjadi pemimpin industri bukan soal mengalahkan kompetitor. Tapi soal mampu memimpin ekosistem agar berkembang bersama. Kami ingin melakukan lebih banyak lagi di bidang ini di masa depan.

Emily Zhang: Tapi harus diakui, menang itu memang terasa menyenangkan.

Dario Amodei: Lihat, kita selalu berusaha menang, kan? Seperti yang selalu kita lakukan, kita tidak ingin gagal di sini, dan saya bukan tipe orang yang berpikir kita harus berhenti mengembangkan teknologi ini, atau tidak membangun lagi. Kita berada dalam sistem kapitalis yang bebas, dan itu tidak masalah. Kita hanya harus mengurangi risiko dari model ini, jadi selalu mencari keseimbangan antara keduanya.

Emily Zhang: Jadi, selama sebagian besar sejarah Anthropic, kalian berada di posisi yang kurang menguntungkan. Saya rasa, saat kamu tidak punya apa-apa, mengklaim moral tinggi itu lebih mudah. Seberapa sulit menjaga prinsip saat skala sebesar ini?

Dario Amodei: Saya ingin bilang, saya banyak memikirkan mengapa hal ini bisa terjadi.

Seiring pertumbuhan perusahaan, saya tetap waspada di setiap tahap. Di setiap tahap, akan muncul tantangan baru. Perusahaan bisa kehilangan ciri khasnya secara baru. Entah dari segi ambisi bisnis, atau dari nilai-nilai inti.

Saya khawatir keduanya, karena saya percaya mereka saling mendukung.

Sebenarnya, saya percaya kita bisa membangun model yang sangat bagus karena itu adalah kunci untuk menjalankan nilai-nilai kita secara efektif. Tapi, seiring pertumbuhan perusahaan, ada banyak jebakan. Banyak cara untuk salah, dan ini bukan karena saya, co-founder, atau pemimpin perusahaan berubah nilai-nilainya, tapi karena struktur perusahaan berubah sangat cepat.

Jadi, saya mungkin menghabiskan setengah waktu saya membahas budaya Anthropic dan bagaimana budaya itu berjalan, karena saat kamu tumbuh sangat cepat, kamu akan merekrut banyak orang dari perusahaan teknologi besar.

Kalau kamu tidak memberi tahu mereka bagaimana Anthropic bekerja, mereka akan meniru cara kerja yang mereka kenal, yaitu cara kerja perusahaan tempat mereka dulu bekerja.

Ini adalah perjuangan dan tantangan yang terus berlangsung.

Ini seperti, saya dan Daniela mungkin tugas utama adalah menjaga agar budaya ini tetap hidup. Karena kami sadar, ini adalah inti dari masa depan perusahaan.

Efisiensi R&D dan kemajuan ilmiah

Emily Zhang: Kecepatan iterasi produk kalian sangat luar biasa. Jumlah produk yang dirilis dan kecepatan rilisnya sangat mengesankan. Bagaimana kalian bisa melakukan ini?

Dario Amodei: Saya ingin menyebutkan dua hal. Pertama, kami adalah perusahaan yang bersatu. Kami memiliki budaya perusahaan yang kohesif. Saya rasa, meskipun skala membesar, kami tetap sangat efisien. Semua orang memiliki tujuan yang sama, ini menunjukkan kesatuan budaya dan organisasi. Saya rasa ini adalah faktor utama.

Kedua, saya ingin menyebutkan Claude sendiri, kami sekarang memanfaatkan Claude untuk membantu. Menggunakannya untuk mengembangkan model, meningkatkan efisiensi model, dan mempercepat pengembangan produk. Untuk itu, kita perlu mengembangkan praktik baru. Meskipun kita masih pemula di bidang ini, hasilnya sudah menunjukkan percepatan yang signifikan, dan percepatan ini semakin andal. Itu dua faktor utama menurut saya.

Emily Zhang: Bisakah kamu ceritakan hal paling gila yang pernah dilakukan AI menurutmu?

Dario Amodei: Saya rasa hal paling gila yang pernah saya lihat terutama di bidang biologi dan kedokteran. Saya pernah melihat banyak kasus, termasuk kasus Daniela, Claude mampu mendiagnosis masalah medis yang banyak dokter top pun melewatkannya. Di bidang biologi, model ini mulai menunjukkan performa luar biasa dalam desain obat, kimia komputasi, dan tugas lain. Sebagai mantan biolog, saya terpesona melihat pencapaian ini, sungguh luar biasa.

Perlu diketahui, menyelesaikan tugas-tugas ini membutuhkan pelatihan khusus yang sangat mendalam. Dan Claude semakin hari semakin baik dalam hal ini. Ini adalah bidang yang saya rasa akan sangat menguntungkan kita. Ini sisi positifnya, kita akan mendapatkan manfaat besar dari ini. Kehidupan akan menjadi lebih baik. Kualitas pengalaman manusia akan meningkat.

Emily Zhang: Kemajuan ilmiah selama satu abad.

Dario Amodei: Kemajuan ilmiah selama satu abad, dan kemajuan pengalaman manusia selama satu abad. Misalnya, kembali ke tahun 1900. Bayangkan masalah yang dihadapi manusia saat itu, penyebab kematian dini, penderitaan yang harus mereka tanggung, dan semua kekurangan materi yang sekarang sudah tidak lagi kita alami.

Lalu bayangkan satu abad berikutnya. Saya yakin, kemajuan ilmiah dan medis selama satu abad ini, jika kita mampu mengatasi tantangan saat ini—saya percaya kita bisa—akan sangat besar. Saya semakin optimis. Kita akan memiliki dunia yang jauh lebih baik dari sekarang.

Menulis, berpikir, dan AI sebagai asisten

Emily Zhang: Saya tahu kamu sangat mencintai menulis. Kamu terkenal karena menulis artikel. Apakah kamu menggunakan Claude untuk membantu menulis?

Dario Amodei: Saya pasti menggunakannya. Saya belum sampai tahap membiarkan Claude menulis seluruh teks saya, karena saya punya gaya unik dan cukup pilih-pilih soal itu. Tapi saya biasanya memakai Claude untuk brainstorming, menyusun tema, atau memberi saya referensi.

Jadi, itu berfungsi sebagai alat bantu. Saya belum tahu kapan saatnya Claude bisa menulis karya yang lebih baik dari saya. Kita belum sampai ke sana, tapi, saya yakin, suatu hari nanti pasti akan tiba.

Emily Zhang: Saya juga suka menulis, saya rasa menulis membantu memperjelas pikiran. Ini melibatkan banyak pemikiran kritis. Kalau kita serahkan ke Claude, apakah kita akan kehilangan kemampuan ini?

Dario Amodei: Saya agak khawatir soal itu, dan ini juga salah satu alasan saya tetap menulis sendiri. Ini penting untuk audiens luar, tapi juga untuk diri sendiri. Meskipun banyak orang membaca tulisan saya, menulis juga membantu saya menyusun pikiran, tahu langkah selanjutnya, dan membangun referensi bersama orang lain.

Saya rasa, kita masih mencari cara menggunakan AI secara bijaksana agar manfaat ini tetap terjaga. Saat ini, saya melakukan hal itu, misalnya, memakai Claude untuk riset dan menyusun ide-ide saya sendiri.

Kalau kita cuma pakai terus-menerus, misalnya biarkan Claude menulis artikel tentang risiko AI, pertama, dia tidak bisa mengekspresikan pandangan pribadi saya, dan kedua, saya akan kehilangan manfaat dari proses menulis itu sendiri. Dengan meningkatnya performa model, saya rasa nanti akan ada cara yang lebih langsung dan efektif, sambil tetap menjaga manfaat tersebut, tapi ini akan menjadi proses yang halus dan bertahap. Kita harus bereksperimen secara perlahan.

Saya rasa, kita mungkin akan menghadapi kombinasi yang sangat aneh: pertumbuhan PDB yang tinggi disertai tingkat pengangguran yang tinggi, atau setidaknya, kekurangan tenaga kerja, banyak pekerjaan bergaji rendah, dan ketimpangan yang parah.

Risiko pengangguran, produktivitas, dan kebijakan makro

Emily Zhang: Kamu selalu terbuka soal risiko pengangguran. AI mungkin akan mengeliminasi setengah pekerjaan entry-level dalam 1-5 tahun ke depan. Itu prediksi tahun lalu. Kecepatan perkembangan AI sangat cepat. Apakah sekarang masih 50%? Atau sudah lebih tinggi?

Dario Amodei: Saya selalu bilang, kalau kamu lihat video awal saya, potongan itu sering dipotong secara sepihak, tapi kenyataannya, saya selalu bilang: saya tidak tahu apa yang akan terjadi, tapi ini menunjukkan bahwa situasi bisa sangat bergolak dan besar.

Dan saya juga selalu membahas langkah-langkah yang bisa diambil, seperti pajak token, kerjasama dengan perusahaan untuk penyesuaian tenaga kerja. Saya agak skeptis soal pelatihan ulang, tapi kita harus memasukkan itu ke dalam kebijakan makro ekonomi.

Sejak awal, saya selalu bicara solusi, tapi dalam psikologi manusia, ada kecenderungan memotong bagian yang paling menakutkan, yaitu prediksi kiamat. Jadi, saya ingin menyampaikan, ini bukan prediksi kiamat, tapi ini adalah hal yang harus kita antisipasi dan waspadai, dan kita harus menghadapinya secara positif. Saya tidak yakin 100%, tapi saya tetap cukup khawatir. Tingkat kekhawatiran saya tetap sama.

Saat ini, kita melihat AI meningkatkan produktivitas orang, dan ini adalah fase pertumbuhan awal. Kalau kita lihat dari Revolusi Industri, saya pernah menulis di “Adolescence of Technology” tentang ini. Kamu otomatisasi 90% pekerjaan, itu bagus.

Orang-orang meningkatkan produktivitas di sisa 10% pekerjaan itu 10 kali lipat, karena mereka mendapatkan leverage 10 kali lipat. Tapi akhirnya, itu akan mendekati 100%. Dan masalah berikutnya adalah, kita harus memberi mereka hal lain untuk dilakukan.

Tentang perkembangan jangka panjang, saya belum yakin. Saya memang merasa ragu. Tapi saya percaya ada berbagai jenis adaptasi. Misalnya, saya bicara tentang insinyur perangkat lunak internal di Anthropic. Saat ini, kita sedang mengalami perubahan ini, meskipun AI menulis semua atau hampir semua kode, AI membuat insinyur jadi lebih efisien.

Tapi, meskipun begitu, produktivitas orang meningkat. Tapi, kita sudah mulai melihat tanda-tanda bahwa untuk beberapa orang, efisiensinya tidak meningkat, dan dalam kasus ini, membiarkan AI melakukan pekerjaan langsung mungkin lebih baik.

Jadi, ini salah satu aspek masalah. Di sisi lain, kita perlu meningkatkan permintaan di bidang apa? Kita menyebutnya sebagai “frontier deployment engineer” atau arsitek solusi AI, yang pekerjaannya menggabungkan