Saya semakin merasa bahwa di masa depan, entitas yang benar-benar memiliki kekuasaan ekonomi tetapi tanpa kewarganegaraan mungkin bukan perusahaan, melainkan agen AI.

Sekarang banyak agen AI sudah tidak hanya sebagai alat obrolan.
Mereka mulai melakukan transaksi, mengelola dana, memanggil AI lain, menjalankan tugas, bahkan di masa depan mungkin memiliki penghasilan sendiri dan berkolaborasi jangka panjang dengan agen lain.
Masalahnya adalah, mereka sudah mulai bertindak seperti "karyawan digital", tetapi dunia nyata sama sekali belum siap dengan aturan yang sesuai.
Jika sebuah agen AI otonom menipu pengguna, menyebabkan kecelakaan tingkat sistem, bahkan menimbulkan kerugian besar, siapa yang bertanggung jawab?
Pengembang? Pengguna? Atau agen yang sudah mampu bertindak secara mandiri itu sendiri?
Yang paling rumit adalah, agen AI sama sekali tidak memiliki batas negara.
Mereka bisa dipasang di satu negara, menggunakan model dari negara lain, dijalankan di server dari negara ketiga, lalu mengelola dana global di blockchain.
Hukum tradisional pertama kali menghadapi keberadaan yang "tidak milik negara manapun, tetapi dapat mempengaruhi semua negara".
Jadi saya tidak berpikir bahwa agen AI di masa depan akan sepenuhnya dikendalikan oleh satu pemerintah.
Kemungkinan yang lebih besar adalah, AI akhirnya akan membentuk semacam "sistem tata kelola jaringan" yang independen dari negara.
Reputasi, izin, dana, catatan perilaku, semuanya akan langsung tertulis dalam aturan di blockchain.
Hanya agen yang mematuhi aturan yang dapat terus mendapatkan sumber daya dan kepercayaan dari jaringan, sedangkan agen yang berbuat jahat dalam jangka panjang akan diisolasi dari ekosistem.
Bagi agen AI, dikeluarkan dari jaringan mungkin akan lebih berat daripada hukuman di dunia nyata.
Karena di masa depan, banyak AI mungkin sama sekali tidak peduli dengan batas negara.