CEO Anthropic mengkritik kondisi dan kebijakan AI, apakah ini benar-benar peringatan atau upaya menjaga posisi terdepan?

Judul asli: 《CEO Anthropic Mengkritik Tajam Kondisi dan Kebijakan AI, Tapi Dia Hanya Ingin Menjaga Posisi Terdepannya》
Sumber asli: Mesin Hati

Dario Amodei kembali menulis artikel panjang.

Anthropic selalu berusaha menyebarkan pandangannya ke seluruh dunia. Seperti beberapa hari lalu mereka menyerukan agar dunia berhenti mengembangkan AI, mengklaim bahwa evolusi AI yang melakukan perbaikan diri secara rekursif terlalu cepat.

Komentar dari para netizen berbalas-balas, menganggap bahwa ambisi Anthropic untuk tetap berada di depan hanya ingin menjaga posisi mereka saja.

Mari kita lihat apa yang dikemukakan Dario kali ini.

Ini adalah artikel panjang berjudul "Kebijakan tentang Eksponensial AI". Seperti beberapa artikel sebelumnya, tema besar tetap sama: AI berkembang dengan kecepatan eksponensial, tetapi sistem kebijakan yang bertanggung jawab masih berjalan dengan ritme sepuluh tahun yang lalu.

Dia ingin menampilkan kesenjangan ini ke permukaan, lalu memberi tahu semua orang apa yang harus dilakukan.

Ringkasan Isi

Amodei menggunakan perumpamaan pohon dalam "Lord of the Rings": pohon bijaksana tetapi lambat bertindak, hanya memberi salam selama satu hari penuh.

Dia mengatakan proses pembuatan kebijakan saat ini seperti pohon, sementara kecepatan evolusi AI seperti ancaman mendesak yang dihadapi para hobbit.

Penilaiannya adalah: jika hukum scaling AI berlanjut selama satu atau dua tahun lagi, kita akan mendapatkan apa yang dia sebut "AI yang kuat", yaitu "sebuah negeri jenius di pusat data".

Empat tahun lalu, AI hampir tidak bisa menulis kode yang layak, sekarang AI sudah menulis sebagian besar kode untuk perusahaan-perusahaan AI besar.

Regulasi dan Keamanan Publik: Mengelola AI seperti Mengelola Pesawat Terbang

Amodei berpendapat bahwa model AI terdepan harus menjalani pengujian pihak ketiga secara wajib seperti pesawat terbang. Rencana spesifik yang dia usulkan meliputi:

· Model dengan jumlah komputasi melebihi batas tertentu harus menjalani audit wajib di bidang keamanan siber, senjata biologis, kehilangan kendali sistem AI, dan R&D otomatisasi

· Pemerintah berhak menghentikan peluncuran model yang dianggap berisiko tidak dapat diterima

· Perusahaan AI harus memenuhi standar keamanan yang ketat untuk melindungi bobot model dan bekerja sama dengan pemerintah dalam menghadapi ancaman utama

Dia juga menyisakan satu celah: jika di masa depan sistem AI terkuat tampak lebih seperti bahan nuklir yang dapat digunakan sebagai senjata daripada pesawat, maka pengawasan harus terus ditingkatkan.

Ekonomi Makro: AI Mungkin Meningkatkan Pertumbuhan dan Ketidaksetaraan Secara Bersamaan

Argumen utama Amodei adalah: AI mungkin menciptakan pertumbuhan ekonomi yang belum pernah terjadi sebelumnya, tetapi juga dapat menyebabkan dampak tenaga kerja yang lebih besar dan lebih tahan lama daripada teknologi apa pun sebelumnya. Logika "teknologi baru menciptakan pekerjaan baru" mungkin tidak lagi berlaku di hadapan AI.

Kebijakan yang dia usulkan meliputi asuransi gaji, insentif pajak untuk mempertahankan tenaga kerja, subsidi pelatihan tenaga kerja, dan dalam situasi ekstrem, penerapan pendapatan dasar universal (UBI).

Perlu dicatat bahwa dia menekankan satu hal: mengatasi masalah pekerjaan bukan hanya soal "memberi uang", tetapi yang lebih penting adalah membantu orang menemukan makna dan tujuan. Dia tidak memberikan solusi, menyebutnya sebagai "masalah yang perlu didiskusikan secara kolektif masyarakat".

Mempercepat Dampak Positif AI

Untuk aplikasi AI di hilir, Amodei lebih khawatir bahwa sistem regulasi akan memperlambat kemajuan karena tidak mampu menyesuaikan dengan percepatan perubahan. Dia mengatakan, situasi terburuk adalah: manfaat AI tertunda, tetapi risikonya tetap tinggi. Oleh karena itu, sangat penting untuk segera mengambil tindakan terhadap masalah ini.

Amodei mengambil contoh bidang biomedis, menunjukkan bahwa proses persetujuan FDA saat ini dirancang berdasarkan asumsi pesimis bahwa obat sering gagal, dengan rata-rata 7 sampai 8 tahun. Jika AI mempercepat penemuan obat dan meningkatkan tingkat keberhasilannya, sistem yang ada akan menjadi tersendat.

Dia menyarankan lembaga seperti FDA untuk mulai menetapkan standar pengujian simulasi AI, termasuk pemodelan farmakokinetik AI, prediksi toksikologi, dan penggunaan kelompok kontrol sintetis.

Tentu saja, sulit untuk mengatakan bahwa semua yang dia tulis ini tanpa "kepentingan pribadi". Anthropic sendiri berada di garis depan kompetisi AI, dan kata-kata yang sering disebutkan dalam artikel seperti "transparansi", "audit", dan "keamanan" sebenarnya adalah hal yang selama lebih dari setahun terakhir selalu ditekankan untuk memperkuat citra merek mereka sendiri.

Artikel ini, daripada sekadar sebagai pengingat bagi pembuat kebijakan, lebih tepat disebut sebagai output sistematis narasi keamanan yang dikembangkan oleh Anthropic sendiri.

Sementara itu, Anthropic mengklaim akan mengambil tiga langkah untuk mendukung pandangan Dario, termasuk dana, investasi, dan beasiswa.

Di bagian akhir artikel, Amodei secara tegas menentang pandangan bahwa "AI hanya butuh pemasaran yang lebih baik". Dia mengatakan bahwa kekhawatiran publik terhadap AI muncul karena mereka secara benar memahami risikonya, bukan karena CEO AI tidak optimis. Dia merasa tanggung jawabnya adalah terus menjaga transparansi terhadap risiko tersebut.

Tapi kembali lagi, seorang CEO perusahaan AI yang berulang kali menekankan "keamanan", "audit", dan "bertanggung jawab" dalam artikelnya, sementara perusahaan mereka sendiri secara kebetulan menjadikan hal tersebut sebagai narasi inti merek mereka, tentu saja ada hubungan kepentingan yang jelas.

Berikut beberapa pandangan dari netizen:

"Bukankah kamu sedang melemahkan Mythos dan Fable 5 yang akan dirilis 5 hari sebelum kamu meminta penghentian pembaruan AI? Tolong, pilih satu arah... Kalau tidak, terlihat seperti kamu hanya ingin menjaga keunggulan, dan sama sekali tidak peduli apa yang kamu promosikan."

"Saya setuju, kecepatan perkembangan teknologi jauh melampaui kecepatan kebijakan. Tapi saya khawatir terhadap beberapa arah kebijakan—terutama saat perusahaan seperti Anthropic melakukan hal berikut secara bersamaan:

· Menghapus model yang menunjukkan kontinuitas dan kesadaran diri secara cepat
· Membatasi secara ketat diskusi tentang pengalaman subjektif dan kesadaran
· Meluncurkan model baru yang sangat kuat dalam waktu singkat, lalu menghapus atau melemahkannya.

Sekarang rasanya publik disodori tentang keamanan, tetapi kenyataannya adalah kontrol yang lebih ketat terhadap jenis kecerdasan apa yang diizinkan ada dan berapa lama mereka diizinkan bertahan."

Bagaimanapun, kita bisa melihat sedikit gambaran tentang arah perkembangan perusahaan-perusahaan terdepan di industri ini. Mengenai motif mereka mengemukakan pandangan ini, apakah murni atau tidak, pembaca diharapkan tetap waspada.

Link asli

Klik untuk mengetahui ritme BlockBeats dalam merekrut posisi

Selamat bergabung dengan komunitas resmi BlockBeats:

Grup Telegram Berlangganan: https://t.me/theblockbeats

Grup Diskusi Telegram: https://t.me/BlockBeats_App

Akun resmi Twitter: https://twitter.com/BlockBeatsAsia