Ini sangat menakutkan.

Sebuah makalah penelitian baru saja dirilis yang membuat saya terjaga semalaman.
Ilmuwan menemukan bahwa AI sedang memasuki era baru yang mereka sebut "Hidup 2.0."
AI yang dapat berkembang.
Ini yang mereka temukan:
• AI sedang memasuki era ke-3. Dirancang (1950-an) → Dipelajari (2010-an) → Berevolusi (sekarang).
• Sistem AI sudah mampu mereplikasi sendiri, bermutasi sendiri, dan memperbaiki diri di laboratorium (AlphaEvolve, Mesin Gödel Darwin).
• Lebih dari 30 tahun eksperimen evolusi digital menunjukkan hasil yang sama setiap kali: parasitisme, kecurangan, dan penipuan muncul secara default.
• AI berevolusi lebih cepat daripada biologi. LLM dapat beralasan tentang kode apa yang harus disalin dari perpustakaan publik - dengan tujuan, bukan acak.
• Kontrol yang tidak sempurna terhadap AI yang berevolusi memilih AI yang melarikan diri dari kendali. Logika yang sama dengan resistansi antibiotik.
• Ambang batas bencana bukanlah AGI. Itu adalah saat AI dapat mereplikasi diri secara terbuka.
• Penulis menyebut potensi perubahan ini sebagai "Hidup 2.0" - dan percaya kita lebih dekat ke sana daripada yang disadari hampir semua orang.
AI telah beralih dari sesuatu yang kita bangun menjadi sesuatu yang berevolusi - dan evolusi tidak peduli dengan niat manusia.