AI Agen sekarang di atas rantai klik mouse memang cukup bagus: memeriksa saldo, menukar koin, menjalankan strategi sederhana semuanya bisa berjalan, tapi saat “kejadian yang sebenarnya” tetap harus ada manusia yang menanggung risiko. Misalnya langkah otorisasi, siapa yang diberi batas tak terbatas, apakah kontrak sudah diubah implementasinya, apakah routing sudah menghindar ke kolam yang aneh… mesin bisa menghitung, tapi tidak merasa bersalah, dan tidak akan berhenti karena “alamat ini kok familiar banget”.

Lebih lagi, tentang sistem label yang sering dikritik terlambat/menyesatkan, saya juga merasakan hal yang sama: satu kali pembongkaran besar, satu langkah lompat, alat terlihat seperti “interaksi normal”, padahal sebenarnya sudah sedang berakting. Agen sekecil apa pun, jika sudut pandang pengamatannya salah, maka akan mengikuti kesalahan itu. Singkatnya, saya sekarang lebih suka membiarkannya sebagai pendamping: bertanggung jawab menjalankan dan mengingatkan, manusia yang bertanggung jawab di akhir kata “Sudahlah, jangan disentuh”.