Vitalik mengusulkan agar dua kubu AI mencapai kesepakatan jalan tengah: secara proaktif menetapkan bahwa jika situasi ekstrem terjadi, maka akan memicu penghentian sementara

robot
Pembuatan abstrak sedang berlangsung
Odaily Planet Daily melaporkan, pada 11 Juli, pendiri bersama Ethereum Vitalik Buterin mempublikasikan tulisan yang membahas kontroversi seputar AI superintelligence. Ia menyebutkan bahwa di bidang AI saat ini ada dua kubu: satu kubu percaya superintelligence pasti akan datang sebelum 2040, sehingga perlu segera dikendalikan; kubu lainnya berpendapat bahwa AI hanyalah teknologi biasa, dan mengupayakan jeda adalah upaya untuk mengendalikan manusia. Vitalik mengatakan dirinya belum yakin pihak mana yang benar, terbuka terhadap gagasan memperlambat atau menghentikan, tetapi menentang narasi bahwa perusahaan AI besar mendorong “open source yang berbahaya”, karena menurutnya itu pada dasarnya adalah pemusatan kekuasaan.
Vitalik mengajukan solusi jalan tengah: kedua belah pihak bisa menyepakati sebelumnya, jika terjadi kondisi ekstrem tertentu (seperti pandemi besar yang meluas atau pengangguran massal, dll.) benar-benar terjadi, maka mereka sepakat untuk memulai jeda AI; jika kondisi-kondisi tersebut tidak terjadi, maka mereka mengikuti rencana kubu lain. Ia mengakui bahwa semua rencana penanganan memiliki kekurangan, dan manusia hanya bisa memilih di antara “tidak sempurna” dan “lebih tidak sempurna”, tetapi teknologi defensif seperti verifikasi formal, kriptografi, dan perangkat keras keamanan sama-sama layak untuk terus dikembangkan di kedua dunia tersebut.
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • Komentar
  • Posting ulang
  • Bagikan
Komentar
Tambahkan komentar
Tambahkan komentar
Tidak ada komentar
  • Disematkan