Jadi ada cerita liar tentang bagaimana salah satu kas warisan kebijakan AI terbesar di dunia dimulai dengan koin anjing dan lemari di Kanada. Vitalik Buterin baru saja menjelaskan bagaimana semuanya terjadi, dan jujur saja, ini menjadi jauh lebih rumit daripada yang diperkirakan siapa pun.

Pada tahun 2021, pencipta Shiba Inu melakukan langkah yang sangat jenius dari segi pemasaran—mereka menaruh sejumlah besar token SHIB ke dalam dompet Vitalik tanpa izin. Strateginya jelas: pasang 'Vitalik memiliki setengah pasokan kami' di materi pemasaran dan manfaatkan hype-nya. Tapi token itu malah melonjak nilainya ke atas $1 miliar. Vitalik ingin keluar sebelum gelembung pecah, yang menyebabkan momen absurd di mana dia harus menelepon ibu tiri di Kanada dan memintanya masuk ke lemari pakaiannya, membaca angka 78 digit dari selembar kertas, dan menambahkannya ke angka 78 digit lain dari ranselnya. Begitulah cara melikuidasi kekayaan shiba inu saat Anda tidak secara fisik di sana.

Dia berhasil menjual sebagian untuk ETH dan menyumbangkan $50 juta ke GiveWell. Tapi dia masih menyimpan gunungan SHIB, jadi dia membagi sisanya. Setengahnya pergi ke CryptoRelief untuk infrastruktur medis di India dan penelitiannya sendiri. Setengah lainnya—sekitar $500 juta setelah dilikuidasi—dikirim ke Future of Life Institute, sebuah organisasi yang fokus pada risiko eksistensial dari AI, bioteknologi, dan senjata nuklir.

Di sinilah bagian yang menarik. FLI awalnya menyajikan peta jalan kepada Buterin yang mencakup kategori risiko utama dan 'inisiatif pro-perdamaian dan pro-epistemik.' Dia memperkirakan mereka akan menguangkan sekitar $10 sampai $25 juta mengingat likuiditas SHIB yang sangat tipis. Sebaliknya, mereka justru melakukan exit sebesar $500 juta. Sebuah koin meme yang tidak dianggap serius baru saja menciptakan momen filantropi bernilai miliaran dolar.

Tapi kemudian FLI berbelok tajam. Menurut Buterin, mereka beralih ke 'aksi budaya dan politik sebagai metode utama'—sebuah perubahan besar dari pendekatan awal. Kekhawatirannya nyata: aksi politik besar-besaran yang terkoordinasi dengan dana besar cenderung gagal. Ini bisa menyebabkan hasil yang tidak diinginkan, memicu backlash, dan menyelesaikan masalah dengan cara yang otoriter dan rapuh.

Dia menunjuk strategi biosafety FLI sebagai contoh. Pendekatan utama mereka adalah menyematkan pengaman ke dalam model AI agar mereka menolak menghasilkan output berbahaya. Tapi Buterin melihat ini rapuh karena jailbreak dan fine-tuning membuat pembatasan tersebut mudah dilanggar. Jika mengikuti logika ini sampai ke ujungnya, akan muncul 'larang AI sumber terbuka' atau 'dukung satu perusahaan AI baik dan jangan biarkan yang lain bersaing.' Pendekatan seperti itu justru gagal total—mereka menjadikan dunia lain sebagai musuh.

Ada juga masalah struktural dengan strategi yang berfokus pada regulasi. Ketika pemerintah membatasi teknologi berbahaya, organisasi keamanan nasional dikecualikan, dan organisasi yang sama seringkali menjadi bagian dari risiko itu sendiri. Ini adalah kontradiksi bawaan.

Namun, Buterin mengakui bahwa beberapa pekerjaan terbaru FLI cukup solid. Dia merasa terinspirasi oleh deklarasi mereka tentang 'AI pro-manusia' yang tampaknya menyatukan konservatif, progresif, libertarian, dan negara-negara di Amerika, Eropa, dan China. Mereka juga meneliti cara mencegah konsentrasi kekuasaan AI, yang sangat penting.

Tapi inti masalah tetap sama: sebuah sumbangan yang tidak pernah direncanakan Buterin, dari token yang tidak pernah dia inginkan, akhirnya mendanai organisasi yang bergerak ke arah yang tidak dia setujui. Mereka sekarang menggelontorkan ratusan juta dolar dengan cara yang membuatnya tidak nyaman. Dia menyampaikan kekhawatiran ini secara pribadi ke FLI beberapa kali sebelum menjadi publik. Keuntungan dari windfall shiba inu berubah menjadi sesuatu yang jauh lebih kompleks dari yang diperkirakan siapa pun.