Vitalik mengusulkan solusi kompromi bagi dua kubu AI: menetapkan sebelumnya bahwa jika skenario ekstrem terjadi, maka akan memicu jeda

robot
Pembuatan abstrak sedang berlangsung
ME News, 11 Juli (UTC+8), pendiri bersama Ethereum Vitalik Buterin menulis membahas kontroversi tentang AI superintelligence. Ia menyebutkan bahwa saat ini di dunia AI ada dua kubu: satu kubu meyakini superintelligence pasti tiba sebelum 2040, sehingga harus segera dikendalikan; kubu lainnya berpandangan bahwa AI hanyalah teknologi biasa, dan menghentikan sementara (pause) adalah upaya mengendalikan manusia. Vitalik mengatakan dirinya belum yakin pihak mana yang benar, dan bersikap terbuka terhadap opsi memperlambat atau menunda, tetapi menentang narasi dari perusahaan-perusahaan AI besar yang mendorong “open source berbahaya”, karena menurutnya itu pada dasarnya adalah pemusatan kekuasaan. Vitalik mengajukan jalan tengah: kedua belah pihak bisa menyepakati lebih awal bahwa jika terjadi kondisi-kondisi ekstrem tertentu (seperti pandemi besar yang sangat luas, pengangguran massal, dll.), maka mereka akan sepakat untuk memulai jeda AI; jika kondisi-kondisi itu tidak terjadi, maka akan mengikuti rencana pihak lain. Ia mengakui semua solusi penanganan memiliki kekurangan, dan manusia hanya bisa memilih di antara “tidak sempurna” dan “lebih tidak sempurna”, tetapi teknologi pertahanan seperti verifikasi formal, kriptografi, dan perangkat keras keamanan, layak untuk terus dikembangkan di kedua dunia. (Sumber: PANews)
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • Komentar
  • Posting ulang
  • Bagikan
Komentar
Tambahkan komentar
Tambahkan komentar
Tidak ada komentar
  • Disematkan