Setiap utopia AI dimulai dengan menghapus satu variabel yang tidak cocok dengan model. Manusia.

Saya telah membaca ulang The Fatal Conceit karya Hayek.
Ini adalah buku singkat dengan satu argumen dan saat ini terdengar seperti tanggapan langsung terhadap setengah dari tawaran AI yang saya lihat.
Godaan selalu ada: merancang masyarakat seperti mesin. Menggambarkan dunia dalam persamaan. Menghilangkan irasionalitas. Membangun sistem yang sempurna.
Ini masuk akal jika Anda berasal dari fisika atau teknik. Jika Anda bisa membelah atom dan menggambarkannya dengan matematika, logikanya mengikuti: mengapa tidak masyarakat? Alam semesta memiliki hukum. Pasti manusia juga.
Itulah logika di balik ekonomi terencana. Tawaran yang sama, merek berbeda, di balik kota yang dikelola AI.
Masalah Hayek dengan ini bukanlah matematikanya. Itu adalah model manusia. Orang menjalankan tradisi, konteks lokal, aturan tidak resmi, kontradiksi yang tidak pernah sepenuhnya terselesaikan. Bukan sebuah bug. Hanya apa adanya manusia.
Pengetahuan di masyarakat mana pun tersebar. Ia hidup dalam harga, keputusan lokal, sinyal yang tidak dapat dikumpulkan secara lengkap oleh perencana pusat. Pasar bukanlah sebuah ideologi dalam kerangka Hayek — mereka satu-satunya mekanisme yang memungkinkan pengetahuan ini bergerak. Sentralisasi, dan Anda menghancurkan tepat apa yang Anda coba optimalkan.
Saya terus memikirkan ini ketika seseorang menawarkan kebijakan moneter yang dikelola AI, atau sistem keuangan di mana manusia adalah variabel input.
Teknologi bukanlah masalahnya. Yang pertama kali mereka buang adalah orang yang tidak cocok dengan model. Di situlah letak informasinya.