Vitalik Buterin memperingatkan kita perlu pertahanan terdesentralisasi untuk mengatasi risiko kecerdasan buatan

Pendiri Ethereum, Vitalik Buterin, telah mengungkapkan kekhawatiran tentang bahaya potensial dari program kecerdasan buatan (AI) yang tidak terkendali.

Dalam sebuah postingan pada 10 Januari di X, Buterin memperingatkan bahwa AI yang tidak dikelola dengan baik dapat menciptakan entitas pintar yang bereplikasi diri sendiri yang menimbulkan risiko bagi umat manusia.

Dia menyatakan:

“AI yang dilakukan dengan salah menciptakan bentuk baru kehidupan cerdas mandiri yang dapat bereplikasi sendiri AI yang dilakukan dengan benar adalah baju besi mecha untuk pikiran manusia Jika kita melakukan yang pertama tanpa yang terakhir, kita berisiko mengalami pelemahan manusia yang permanen. Jika kita melakukan yang terakhir, peradaban manusia superinteligent yang makmur.”

Dia menjelaskan bahwa sementara beberapa sistem AI, seperti chatbot yang dirancang untuk meningkatkan antarmuka pengguna, bermanfaat, yang lain bisa menyebabkan risiko signifikan. Secara khusus, agen AI yang berfungsi secara mandiri untuk jangka waktu yang lama akhirnya mungkin menantang kontrol manusia dan melemahkan masyarakat.

Untuk mengurangi risiko-risiko ini, Buterin mengusulkan fokus pada sistem kecerdasan buatan yang melengkapi kecerdasan manusia, mengubahnya menjadi alat yang memperbesar kemampuan kolektif alih-alih menggantikannya.

Menurutnya, pendekatan seperti itu akan mengubah AI menjadi alat yang kuat untuk meningkatkan kemampuan manusia sambil menghindari risiko yang tidak perlu.

d/Acc

Sebagian besar strateginya melibatkan konsep Decentralized and Democratic Differential Defensive Acceleration (d/Acc). Pendekatan ini menekankan pengembangan alat terdesentralisasi untuk mengatasi ancaman terkait AI yang muncul.

Buterin menguraikan gagasan ini dalam pos blog terbaru, menggambarkan d/Acc sebagai kerangka yang dirancang untuk mendekentralisasi teknologi pertahanan. Tujuannya adalah memberdayakan individu dan komunitas untuk melindungi diri dari bahaya potensial yang ditimbulkan oleh kemajuan AI yang cepat.

Strategi ini memungkinkan distribusi kekuatan teknologi yang lebih demokratis dengan memberikan kemampuan pertahanan kepada komunitas. Misalnya, sistem terdesentralisasi dapat memantau, melawan, atau bahkan menetralkan aktivitas AI yang berbahaya tanpa mengandalkan kendali dari pemerintah atau perusahaan.

Buterin menjelaskan bahwa d/Acc bisa berfungsi sebagai pengaman dalam skenario di mana teknologi AI berkembang secara tidak terduga. Selain itu, demokratisasi pertahanan memastikan bahwa tidak ada entitas tunggal yang dapat mendominasi atau mengeksploitasi potensi AI canggih, yang mendorong ekosistem teknologi yang lebih seimbang dan tangguh.

Co-founder Ethereum juga menekankan tanggung jawab etis pengembang dalam bidang yang berkembang pesat ini. Dia berpendapat bahwa pendekatan terdesentralisasi seperti d/Acc meningkatkan keamanan kolektif dan mendorong transparansi serta kolaborasi dalam pengembangan kecerdasan buatan.

Buterin menulis:

“Satu ide yang sangat ramah terhadap d/acc adalah menempatkan tanggung jawab pada pemilik atau operator peralatan apa pun yang diambil alih oleh AI (misalnya, dengan hacking) dalam proses melakukan tindakan yang merugikan secara katasrofik. Ini akan menciptakan insentif yang sangat luas untuk melakukan kerja keras guna membuat infrastruktur dunia (terutama komputasi dan bio) seaman mungkin.”

Disebutkan dalam artikel ini