Meja Bundar WAIC 2026: Keputusan yang menyangkut hidup dan mati tidak boleh diserahkan kepada AI; manusia bisa memberi wewenang untuk bertindak tetapi tidak bisa mendelegasikan tanggung jawab

Menurut pemantauan Beating 动察, pada Konferensi Dunia AI 2026, Zhang Qinghua University? (Institusi tata kelola AI internasional Universitas Tsinghua) yang juga Direktur Institut Penelitian Tata Kelola AI Internasional, Xue Lan, bersama Direktur Akademi Sains New York sekaligus CEO Nicholas B. Dirks, serta Direktur Eksekutif Pusat Human-Compatible AI di Laboratorium Penelitian AI Universitas California, Berkeley, Mark Nitzberg, melakukan diskusi meja bundar yang berfokus pada tata kelola AI agen.

Para tamu menyoroti bahwa AI kini bergeser dari “membantu pengambilan keputusan” menuju “aksi mandiri”, menjadi agen cerdas yang menggantikan manusia untuk melakukan pekerjaan. Ini merupakan perwujudan baru dari problem pendelegasian dan agen tradisional di era digital. Berbeda dari agen manusia, AI menghadapi ketidakselarasan tujuan, dan karena berwujud sebagai “kotak hitam” maka tidak dapat menanggung tanggung jawab hukum; sehingga akuntabilitas harus dialihkan ke seluruh rantai eksekusi, seperti pengembang, pelaksana/deployer, regulator, dan lain-lain.

Para tamu mencapai kesepakatan yang sangat tinggi: Keputusan yang melibatkan konsekuensi kehidupan dan kematian, skenario di mana jika terjadi kesalahan tidak dapat diperbaiki, serta semua persoalan yang menyangkut etika dan penilaian nilai, sama sekali tidak boleh diserahkan untuk dipimpin AI. Manusia dapat memberi wewenang kepada AI untuk bertindak, tetapi tidak dapat memberi wewenang kepada AI untuk bertanggung jawab; setiap pemberian wewenang harus dapat dicabut, dan setiap tindakan harus dapat dipertanggungjawabkan, sehingga kecepatan pelimpahan kuasa agen tidak akan pernah melebihi kecepatan manusia memverifikasi kemampuan AI.

Dari sisi mekanisme keamanan, para tamu mengusulkan agar AI yang tepercaya harus memenuhi tiga karakteristik rekayasa: fondasi yang kuat, operasi yang transparan, serta dapat dikendalikan saat digunakan. Dari sisi pembangunan institusi, perlu dibentuk standar penilaian keamanan AI yang seragam secara global, sistem pengujian yang saling diakui, dan mekanisme berbagi data insiden; menetapkan batas tegas pengembangan AI serta membangun mekanisme pemantauan peringatan dini untuk mendorong keamanan AI menjadi produk publik global. Batas tata kelola AI bukanlah titik akhir teknologi, melainkan titik awal ketika manusia kembali memahami nilai, tanggung jawab, dan arah peradaban mereka.

Klik tautan teks asli di bawah ini, bergabung dengan kanal berita AI Beating 动察 · Feishu, untuk pemantauan tanpa henti 7×24 jam atas berbagai isu dan berita AI global.