Saya sedang membaca sebuah buku berjumlah 165 halaman baru-baru ini. Penulisnya Leopold Aschenbrenner, yang dua tahun lalu dengan tepat memprediksi tren perkembangan AI saat ini.

Dia dipecat dari OpenAI pada April 2024, dan pada Juni menulis buku ini berjudul "Situational Awareness" yang pada dasarnya adalah sebuah dokumen penggalangan dana.
Pada September, dia membuka dana hedge fund sendiri. Dana ini berkembang dari lebih dari 200 juta dolar dalam satu tahun menjadi 5,5 miliar dolar, meningkat 24 kali lipat.
Pengembalian bersih pada paruh pertama 2025 adalah 47%.
Saya membaca dan mulai bertanya, apa dasar dia?
Apa yang membuat seorang berusia 22 tahun mampu menulis tentang dunia hari ini pada tahun 2024?
Bisa melihat masa depan karena dia berdiri di ruangan tempat masa depan sedang dibangun.
Di lingkungannya di San Francisco, di tim Superalignment OpenAI, dia langsung bekerja di bawah kepala ilmuwan Ilya Sutskever. Buku ini adalah persembahannya untuk Ilya.
Setiap kalimat yang dia tulis dua tahun lalu, hari ini jika dilihat kembali, hampir semuanya terwujud.
Dia bilang, kekurangan terbesar AI jangka pendek bukan algoritma, melainkan kekuatan komputasi, memori HBM, pusat data, dan listrik.
Dia bilang, hambatan sebenarnya tersembunyi dalam kemasan canggih CoWoS.
Dia bilang, jaringan listrik di AS akan menjadi hambatan pertama yang menghambat semua orang.
Dia bilang, akan muncul sebuah "klaster triliun dolar". Kemudian semua pandangan ini menjadi headline.
OpenAI menamai klaster itu Stargate.
Pada paruh kedua 2025, dia diam-diam mengakumulasi saham di tambang Bitcoin.
Bukan karena optimis terhadap harga koin, tetapi karena dia melihat bahwa pabrik penambangan sudah memiliki kontrak listrik yang ada, pusat data yang sudah ada, pendinginan berdaya tinggi yang sudah tersedia.
Hal-hal yang langka di era AI, semua sudah dimiliki oleh tambang Bitcoin.
Penambang akan bertransformasi menjadi pemilik kekuatan komputasi AI.
Logikanya;
Lapisan pertama, AI kekurangan listrik.
Lapisan kedua, orang yang menguasai listrik adalah yang paling langka.
Lapisan ketiga, mereka yang sudah menguasai listrik tetapi dipandang rendah pasar adalah tambang emas.
Tapi semua ini masih baru pembuka selera. Dia menulis satu kalimat dalam buku ini,
Pada 2027, AGI (Artificial General Intelligence) akan datang.
Logikanya seperti ini. Empat tahun lalu, AI dari "balita pra-sekolah" GPT-2 tumbuh menjadi "remaja pintar" GPT-4.
Empat tahun lagi, dia bilang, AI akan mampu menggantikan peneliti manusia, dan melatih AI sendiri.
Begitu AI bisa meneliti AI sendiri, iterasi algoritma manusia selama sepuluh tahun akan diselesaikan dalam satu tahun.
"Ledakan kecerdasan" akan dimulai dari saat itu.
Pada saat itu, manusia tidak akan lagi memahami apa yang dilakukan AI.
Kode yang ditulisnya, keputusan yang diambilnya.
Bagaimana kita tahu, bahwa dia tidak menipu kita?
Leopold dalam buku ini, menawarkan tiga solusi.
Pertama, pengawasan lemah yang kuat.
Menggunakan AI yang lebih lemah, tapi masih bisa dipahami manusia, untuk mengawasi AI yang jauh lebih kuat.
Taruhannya adalah, AI yang lebih lemah itu masih bisa mendeteksi jika AI yang lebih kuat berbuat jahat.
Leopold sendiri, adalah salah satu penulis bersama makalah ini.
Kedua, AI saling berdebat.
Beberapa AI saling membantah, saling mencari kesalahan, saling mengungkap.
Manusia hanya sebagai wasit yang diam, memanfaatkan inkonsistensi mereka untuk menemukan yang berbohong.
Ketiga, interpretabilitas mekanis.
Saat pelatihan, pertama-tama hilangkan parameter berbahaya.
Lalu langsung buka otak AI, lihat apa yang sebenarnya dipikirkannya.
Buat "penguji kebohongan AI", cari "arah kebenaran" di dalamnya.
Leopold sendiri bilang, ini adalah tantangan level moonshot.
Saat membaca bagian ini, saya baru mengerti mengapa dia menutup dengan foto bersama Oppenheimer.
Dia menganggap ini sebagai versi baru dari Manhattan Project yang sedang ditulis.
Dia sendiri juga mengakui, ketiga jalan ini secara esensial hanyalah "mengakali".
Tidak ada satu pun yang benar-benar menyelesaikan masalah.
Hanya bertaruh bahwa manusia bisa bertahan sampai hari ketika tantangan penyelarasan (alignment) diserahkan kepada AI untuk diselesaikan sendiri.
Apa yang kita lakukan sekarang bukanlah "kita menyelesaikan keamanan AI", melainkan "kita berharap AI menyelesaikan keamanan AI untuk kita".
Terdengar seperti sedang berbicara tentang hubungan yang tidak sehat, bukan?
Tahu bahwa ada yang salah, tapi tetap bertaruh dia akan berubah.
Kembali ke investasi. Bagian paling berharga dari buku ini sebenarnya bukan tahun spesifik "2027 AGI".
Margin kesalahan besar, bisa lebih lambat satu tahun, atau setengah tahun lebih cepat.
Yang paling berharga adalah menjelaskan secara jelas seluruh lapisan hambatan industri AI selama satu dekade.
Listrik > Kemasan canggih / HBM > Kekuatan komputasi > Algoritma > Aplikasi.
Semakin ke atas semakin langka, semakin ke bawah semakin padat.
Leopold sendiri, dengan uangnya sendiri, membuktikan ini secara langsung di pasar terbuka.
Saat saya menutup buku ini, saya berpikir,
Beberapa buku, jika dibaca satu tahun lebih awal, mungkin bisa menentukan nasib.
Untungnya, sekarang juga tidak terlambat.
“See you in the desert, friend.”