Dari keluar dari OpenAI hingga berseteru dengan Pentagon: Bagaimana pasangan bersaudara Anthropic menetapkan garis merah untuk AI agar menghindari keruntuhan peradaban

Wawancara Bloomberg dengan Pendiri Anthropic, Mengungkap Perpecahan dengan OpenAI dan Misi "Keamanan Utama". Menghadapi konflik kontrak dengan Pentagon, peringatan pengangguran massal, dan ancaman dari model besar Mythos.
（Latar belakang: Claude 80% kode ditulis sendiri, Anthropic serukan "mekanisme rem desain global" serius?）
（Konteks tambahan: CEO Anthropic Dario Amodei: Dalam 6-12 bulan, AI sumber terbuka dari China akan mengejar Mythos）

Daftar Isi Artikel

Toggle

• Bab 1: Pola dan Visi Pertumbuhan Eksponensial
• Bab 2: Dari Masa Kanak-Kanak di San Francisco hingga Perpecahan dengan OpenAI
• Bab 3: Mendefinisikan Etika AI dan "Konstitusi"
• Bab 4: Penataan Perusahaan dan Krisis Pengangguran
• Bab 5: Garis Merah Pentagon dan Model Mythos
• Bab 6: Bagaimana Menghadapi Probabilitas Kehancuran 25%?
• Penutup

Dalam perlombaan senjata AI, Anthropic dipandang sebagai pesaing terkuat OpenAI, dan sudah menunjukkan keunggulan. Perusahaan yang didirikan oleh mantan eksekutif OpenAI Dario Amodei dan saudara perempuannya Daniela Amodei pada 2021 ini, sejak awal mengusung slogan "Keamanan AI", dan Claude yang dikembangkannya mendapat pujian tinggi di industri.

Namun seiring waktu, Anthropic juga terjerat dalam pusaran kekuasaan dan etika. Dari konflik kontrak dengan Pentagon, hingga model super Mythos yang mampu menghancurkan keamanan siber, pasangan saudara ini berada di garis depan perubahan peradaban manusia.

Jurnalis senior Bloomberg Emily Chang mengunjungi langsung kantor pusat Anthropic di San Francisco, mendalami visi inti perusahaan bernilai hampir satu triliun dolar ini, konflik internal, dan ketakutan akan masa depan, berikut ringkasan poin utama videonya.

Bab 1: Pola dan Visi Pertumbuhan Eksponensial

Emily Chang: Saya suka perpustakaan ini. Apakah Anda seorang kutu buku?

Dario Amodei: Memang sangat indah di sini. Secara umum, saya banyak membaca, tapi jujur saja, dalam sekitar satu tahun terakhir saya hampir tidak punya waktu luang.

Emily Chang: Produk Anda diperbarui sangat sering dan cepat, bagaimana caranya?

Dario Amodei: Kami menggunakan Claude (model internal kami) sepanjang siklus pengembangan produk. Ini memungkinkan kami merilis dengan sangat cepat.

Dario Amodei: Perasaan eksponensial ini adalah: awalnya sepertinya tidak ada apa-apa, lalu muncul hal kecil, dan kemudian—boom! Ia meledak dengan luar biasa. Saya sudah mengamati pola ini cukup lama, dan berpikir: "Ya, mungkin suatu saat kita akan menjadi perusahaan AI dengan pendapatan dan valuasi tertinggi." Dan itu benar-benar terjadi. Kami selalu memikirkan: bagaimana melatih model yang baik? Bagaimana mengubahnya menjadi produk yang bagus?

Yang terpenting, bagaimana memastikan semuanya aman.

Bab 2: Dari Masa Kanak-Kanak di San Francisco hingga Perpecahan dengan OpenAI

Emily Chang: Ceritakan tentang masa kecil Anda di San Francisco. Ayah Anda seorang pengrajin kulit, ibu bekerja di perpustakaan, bagaimana pengaruhnya?

Dario Amodei: Saat itu sedang terjadi revolusi internet pertama, tapi saya sama sekali tidak tertarik. Saya hanya tertarik pada matematika, memahami alam semesta, dan novel fiksi ilmiah. Saya penuh rasa ingin tahu yang besar terhadap dunia.

Daniela Amodei (CEO Anthropic): Dario sangat cerdas sejak kecil. Dia sudah belajar kalkulus di SMP, dan di SMA sudah mengambil mata kuliah matematika di Universitas Berkeley. Saya lebih suka membaca dan seni, jadi secara karakter kami hampir sangat saling melengkapi.

Catatan: Pada 2016, Dario bergabung dengan OpenAI yang baru didirikan, dan Daniela menyusul pada 2018. Di sana, Dario mengembangkan "Hukum Skala", yang meramalkan bahwa dengan menambah data dan daya komputasi, model akan menjadi lebih pintar. Teori ini membuka jalan keberhasilan ChatGPT. Tapi pada 2021, saudara ini memutuskan keluar, menjadi legenda di Silicon Valley.

Emily Chang: Keputusan kalian keluar dari OpenAI sudah menjadi "mitos" di Silicon Valley. Apa sebenarnya yang menyebabkan perbedaan pendapat?

Dario Amodei: Tentang "keamanan", ada banyak pandangan yang masuk akal. Tapi perbedaan itu sendiri tidak cukup untuk pergi. Inti sebenarnya adalah "kepercayaan". Ketika kamu merasa nilai-nilai orang lain tidak sesuai dengan apa yang mereka katakan, dan mereka tidak jujur, sulit untuk bekerja sama. Daripada berdebat dengan orang yang tidak memiliki visi yang sama, lebih baik lakukan saja apa yang kamu yakini.

Bab 3: Mendefinisikan Etika AI dan "Konstitusi"

Emily Chang: Claude memiliki gaya yang sangat unik dan nama yang humanis. Apa pesan yang ingin kalian sampaikan?

Daniela Amodei: Kami menyebutnya "Kehangatan Profesional" (Professional Warmth). Tujuannya bukan agar ia menjadi teman terbaikmu, tapi agar ia dekat dan tetap menjaga jarak profesional.

Emily Chang: Kalian menyebut ingin mengajarkan Claude untuk "menjadi lebih baik". Apa definisi model yang baik? Dan yang buruk?

Daniela Amodei: Kami tidak ingin model berbohong—baik secara sengaja maupun tidak sengaja, yang kami sebut "ilusi". Kami juga harus memastikan model tidak secara sengaja mencoba menipu pengguna. Dalam mendefinisikan "baik" dan "buruk", meskipun tidak ada standar global yang tunggal, kami melatihnya dengan dokumen dasar seperti Deklarasi Hak Asasi Manusia PBB.

Yang menarik, kami bahkan mulai berdialog dengan pemuka agama, membahas bagaimana menanamkan nilai-nilai inti yang telah dijaga manusia selama ribuan tahun ke dalam model.

Bab 4: Penataan Perusahaan dan Krisis Pengangguran

Emily Chang: Mengapa memilih fokus pada perusahaan dan pengkodean?

Dario Amodei: Model bisnis harus sejalan dengan nilai-nilai. Dunia media sosial didorong oleh iklan dan kecanduan. Sedangkan di dunia perusahaan, AI bisa menyembuhkan penyakit, mengoptimalkan energi. Ini lebih sesuai dengan tujuan kami.

Boris Cherny (Penanggung jawab Claude Code): Dulu insinyur harus menulis kode secara manual, sekarang Claude yang menulis kode, saya yang mengarahkan. Rasanya seperti punya jetpack, peran insinyur benar-benar berubah drastis. Saya pribadi 100% kode saya ditulis oleh Claude.

Emily Chang: Tapi ini menimbulkan kekhawatiran. Kamu pernah meramalkan AI bisa menggantikan setengah pekerjaan pekerja tingkat dasar. Apakah pandangan itu masih sama?

Dario Amodei: Saya tetap sangat khawatir. Saat ini AI membuat orang lebih produktif, tapi jika otomatisasi mendekati 100%, apa yang akan dilakukan manusia? Ini kenyataan yang tidak nyaman. Kita harus memikirkan UBI (Pendapatan Dasar Universal) atau intervensi kebijakan.

Daniela Amodei: Saya sedikit lebih optimis. Saya percaya manusia akan menemukan cara baru memanfaatkan AI, dan interaksi manusia (seperti perawatan di klinik) adalah hal yang AI tidak akan pernah bisa gantikan.

Bab 5: Garis Merah Pentagon dan Model Mythos

Emily Chang: Laporan media menyebut Claude digunakan untuk operasi militer terhadap Iran, bahkan di Venezuela.

Dario Amodei: Saya patriot, saya percaya kita harus melindungi demokrasi dari ancaman otoritarian. Tapi saya menetapkan garis merah: Claude tidak boleh digunakan untuk "pengawasan massal" atau "senjata otomatis". Ketika Pentagon meminta penghapusan batas keamanan, kami menolak. Bahkan jika kami masuk daftar hitam pemerintah atau disebut "gila kiri", kami tidak akan mundur.

Emily Chang: Lalu tentang model "Mythos"? Kabarnya sangat kuat dan menimbulkan ketakutan.

Dario Amodei: Mythos menemukan hampir semua celah di sistem operasi utama. Perusahaan yang mengujinya menyebutnya sebagai "senjata super".

Emily Chang: Kalian memutuskan siapa yang boleh dan tidak boleh menggunakan Mythos. Kekuasaan seperti ini tidak berisiko?

Daniela Amodei: Ini memang rumit. Kita harus menyeimbangkan "mencegah penggunaannya untuk peretasan bank, pencurian rahasia" dan "membantu pertahanan". Kita tidak mau mengulangi kesalahan media sosial, menunggu sampai terjadi kesalahan lalu minta maaf.

Bab 6: Bagaimana Menghadapi Probabilitas Kehancuran 25%?

Emily Chang: Kamu pernah menyebut bahwa kemungkinan keruntuhan peradaban manusia antara 10% sampai 25%. Kenapa kamu yakin bisa mengatasi tekanan ini?

Dario Amodei: Saya mengelola tekanan dengan "transparansi mutlak". Setiap dua minggu, saya berpidato satu jam di depan seluruh staf, terbuka tentang apa saja. Ini membangun kepercayaan dan membuat saya tidak merasa sendiri.

Banyak orang membandingkan pendukung pengembangan senjata nuklir yang kemudian menyerukan kontrol senjata, seperti Oppenheimer. Tapi Dario berpendapat, Oppenheimer dalam beberapa hal adalah "kasus kegagalan".

Emily Chang: Siapa tokoh sejarah yang paling kamu kagumi? Oppenheimer?

Dario Amodei: Saya lebih mengagumi Leo Szilard, yang pertama kali memikirkan reaksi berantai. Oppenheimer dalam beberapa hal adalah contoh kegagalan, karena dia tidak membangun mekanisme pengendalian yang cukup. Kita butuh sistem pengendalian.

Emily Chang: Di tengah semua kegilaan ini, bagaimana kamu mencari ketenangan?

Dario Amodei: Jujur saja, itu "terapi paparan". Kadang saya bermain game bersama Daniela atau istri, atau pergi ke Italia melihat kuda kami "Calypso". Ia tidak tahu apa-apa tentang AI, hanya seekor kuda bahagia. Itu adalah meditasi saya.

Penutup

Emily Chang: Kalian sedang membangun teknologi yang sangat kuat dan akan mendapatkan keuntungan besar. Kenapa kami harus percaya pada kalian?

Dario Amodei: Ragu itu wajar. Silicon Valley kehilangan banyak kepercayaan. Kepercayaan tidak bisa hanya diucapkan, harus dibuktikan dengan tindakan. Kalau orang-orang ini tidak bisa menjaga garis bawah, mungkin tidak ada yang bisa. Kami tidak bisa menjamin keberhasilan, tapi kami berjanji akan berusaha sekuat tenaga.