Peneliti Anthropic Mengundurkan Diri karena Kekhawatiran Terkait Keamanan AI; Pimpinan Utama Alignment Memperingatkan Risiko Kepunahan 10% dalam Dekade Mendatang
Menurut Evan Hubinger, Kepala Sains Keselarasan di Anthropic, dan peneliti yang baru-baru ini hengkang, Jacob Coxon, probabilitas kecerdasan buatan menyebabkan kepunahan manusia dalam dekade mendatang melebihi 10%. Coxon, yang sebelumnya bekerja di OpenAI, mengkritik kedua perusahaan tersebut karena mengembangkan superinteligensi yang dapat meningkatkan dirinya sendiri tanpa perlindungan yang memadai, dengan menyebut tindakan itu sebagai “berjudi dengan nyawa semua orang.” Hubinger mengakui bahw
GateNews·09-10 05:13
