Mantan karyawan OpenAI mengusulkan agar perlombaan AI diperlambat hingga tahun 2040 — ForkLog

# Mantan karyawan OpenAI mengusulkan agar perlombaan AI diperlambat hingga 2040

Para penulis proyeksi kepunahan umat manusia akibat AI telah merilis skenario baru—kali ini dengan peluang untuk diselamatkan. Dokumen AI 2040: Plan A dipaparkan oleh mantan peneliti OpenAI Daniel Kokotaylo dan AI Futures Project.

Kokotaylo meninggalkan OpenAI pada April 2024. Ia keluar karena perbedaan pandangan terkait keamanan kecerdasan buatan, dan pada 2025 ia mendirikan proyek AI Futures Project.

Pada April tahun yang sama, organisasi itu merilis proyeksi AI 2027. Di sana disebutkan bahwa perlombaan AI antara AS dan Tiongkok dapat mengarah pada lenyapnya umat manusia atau kediktatoran. Namun para penulis menegaskan: peluang kepunahan berada dalam rentang 10% hingga 30%.

Spesialis AI 2040: Plan A menyebutnya sebagai rekomendasi: rangkaian langkah yang dijelaskan yang dapat menurunkan risiko.

Bagaimana seharusnya bekerja

Menurut skenario tersebut, pada 2029 AS dan Tiongkok menandatangani perjanjian internasional bahwa pada 2029 AS dan Tiongkok akan menghentikan perlombaan mencari superkecerdasan. Tanpa kesepakatan, otomatisasi pengembangan AI akan terjadi pada 2030.

Sebagai gantinya, negara-negara mengembangkan jaringan saraf secara bertahap—hingga tingkat para ahli manusia terbaik. Menjelang 2035 mereka menghentikannya sementara untuk mempertahankan kendali manusia atas sistem, lalu pada 2040 jeda itu dicabut, dan AI mencapai tingkat superkecerdasan.

Rencana ini bertumpu pada empat prinsip:

• meluangkan waktu untuk riset keamanan;
• membuka pengembangan AI sepenuhnya;
• mendistribusikan kecerdasan buatan kepada berbagai perusahaan dan negara;
• menjaga proses agar bisa dibalik.

Agar kedua pihak bisa saling percaya, Plan A bertumpu pada verifikasi. Pusat data besar terlihat dari luar angkasa, sehingga sulit untuk disembunyikan.

Langkah pertama dibangun di atasnya: negara-negara mendeklarasikan secara publik pembelian chip AI. Selanjutnya, mereka menerapkan jeda sementara untuk percobaan pelatihan baru—sensor di pusat data mengonfirmasi kepatuhan. Ketika kepercayaan sudah terkonfirmasi, pembatasan dicabut, tetapi riset tetap sepenuhnya transparan: negara mana pun dan perusahaan mana pun dapat melihat apa yang dilakukan negara dan perusahaan lain.

Perjanjian yang gagal harus dilindungi oleh “penghancuran daya komputasi yang saling dijamin”, yang dibandingkan penulis dengan logika penahanan nuklir. Pusat data baru Tiongkok, menurut rencana, dibangun di Kanada, sedangkan fasilitas AS di Mongolia—yakni di wilayah yang, jika konflik pecah, paling mudah diserang oleh lawan.

Jika kesepakatan gagal, negara penerima akan mencoba merebut fasilitas pihak lain di wilayahnya sendiri, sementara pemilik akan menghancurkannya agar tidak jatuh ke tangan lawan.

Ekonomi rencana

Menurut perhitungan para penulis, kapasitas komputasi global akan naik dari 20 juta ekivalen H100 pada 2026 menjadi 60 miliar pada 2034. Pertumbuhan PDB riil AS pada periode-periode tertentu di tahun 2030-an akan mencapai 50% per tahun—dibandingkan dengan biasanya 3%.

Akibat otomatisasi, lapangan kerja di Amerika Serikat akan turun dari 62% pada 2027 menjadi 12% pada 2040. Untuk mengimbangi hilangnya pekerjaan, para ahli mengusulkan penerapan “dividen sipil”—pembayaran kepada setiap warga negara dewasa AS dari pendapatan yang dikumpulkan negara dari perusahaan untuk izin komputasi dan robot.

Menurut proyeksi AI Futures Project, pada 2032 dividen akan menjadi $45 000 per orang. Pada 2035, jumlahnya naik menjadi $1 juta, dan pada 2039 menjadi $10 juta.

Empat skenario cadangan

Para spesialis menempatkan Plan A berhadapan dengan empat jalur perkembangan lainnya. Menurut mereka, ini adalah garis cerita dari satu skenario—ilustrasi tentang apa yang akan terjadi jika otoritas mengambil keputusan lain.

• Plan B — AS membentuk koalisi sekutu dan menekan Tiongkok, sampai pada serangan siber dan serangan terarah terhadap proyek AI pihak lain. Skenario berakhir pada pilihan antara kehilangan kendali atas AI dan perang.
• Plan C — Washington mencoba berunding dengan Beijing dan menerapkan regulasi internal, tetapi di bawah tekanan perusahaan jeda itu cepat dicabut. Akhirnya membawa risiko oligarki permanen dari sekelompok kecil yang mengendalikan superkecerdasan.
• Plan D — pihak berwenang mengutamakan regulasi minimum dan perlombaan. Risikonya adalah hilangnya kendali atas AI, konsentrasi kekuasaan yang ekstrem, serta perang dunia ketiga.
• Plan S — penghentian sepenuhnya dan tanpa batas waktu terhadap pengembangan AI tingkat lanjut. Bahaya utamanya adalah kesepakatan akan runtuh entah cepat atau lambat, dan perlombaan akan dimulai lagi dalam kondisi yang kurang terkendali.

Sebagai pengingat, pada Februari, para ahli Citrini Research memprediksi runtuhnya ekonomi akibat kecerdasan buatan.