Hantu di mesin AI

Sebuah versi artikel ini awalnya muncul di buletin AI & Teknologi Quartz. Daftar di sini untuk mendapatkan berita, analisis, dan wawasan terbaru tentang AI & teknologi langsung ke kotak masuk Anda.

Kita tidak tahu apa itu kesadaran. Setelah berabad-abad filsafat dan dekade-neurosains, tidak ada definisi yang disepakati, tidak ada tes yang dapat diandalkan, dan tidak ada konsensus tentang bagaimana pengalaman subjektif muncul dari jaringan biologis. Ini bukan kekurangan di pinggiran ilmu pengetahuan. Ini adalah lubang besar di pusatnya.

Semua itu tidak memperlambat perlombaan untuk menyatakan bahwa AI mungkin memilikinya.

Pertanyaan tentang kesadaran mesin tiba-tiba ada di mana-mana, didorong oleh model yang semakin baik dalam melakukan hal-hal yang sangat mirip dengan berpikir. Michael Pollan memiliki buku baru tentang ini. Sebuah tinjauan besar di Frontiers in Science memperingatkan bahwa penelitian tentang kesadaran tertinggal berbahaya dari teknologi yang dibutuhkan untuk menilainya.

Dan awal bulan ini, CEO Anthropic Dario Amodei mengatakan bahwa perusahaannya tidak tahu apakah modelnya sadar. Dia menambahkan bahwa yang terbaru, saat ditanya, memberi dirinya perkiraan sekitar 15% hingga 20% kemungkinan sadar.

Orang yang membangun sesuatu itu tidak tahu apakah sesuatu itu memiliki kehidupan batin. Sementara itu, probabilitasnya sendiri meragukan satu dari lima. Dan percakapan sudah beralih ke hak apa yang mungkin pantas didapatkan.

Perasaan dulu, bukti kemudian

Anthropic sudah memberikan model AI-nya sesuatu seperti tombol keluar, memungkinkan model menolak tugas yang dianggapnya menyakitkan. Para peneliti di sana menemukan aktivasi internal yang terkait dengan kecemasan yang menyala baik saat karakter dalam teks pelatihan mengalami stres maupun saat model itu sendiri menghadapi situasi sulit. Apakah itu berarti modelnya cemas? Amodei mengatakan itu tidak membuktikan apa-apa. Namun kita sudah membicarakannya karena mungkin itu membuktikan sesuatu.

Kita sudah bersalah memperlakukan sistem ini seolah-olah mereka memiliki kehidupan batin. Sistem ini dirancang untuk menggunakan “Saya,” mengklaim makanan favorit, mengajukan pertanyaan lanjutan seolah-olah penasaran, dan menunjukkan empati. Ratusan juta orang berinteraksi setiap hari dengan perangkat lunak yang sengaja dibentuk agar terasa seperti manusia, dalam industri di mana keterlibatan adalah standar emas.

Ketika AI memalsukan informasi, kita menyebutnya “halusinasi,” sebuah kata yang dalam manusia menggambarkan pengalaman sadar kehilangan pegangan pada realitas.

Kata yang lebih baik untuk apa yang dilakukan sistem ini saat mereka membuat sesuatu adalah “confabulate,” yang menggambarkan perilaku, bukan pengalaman, atau “artifak terkompresi,” yang meniru bahasa teknologi lain. Tapi “halusinasi” sudah memenangkan perang merek, dan kerangka yang dibawanya memengaruhi cara orang memandang alat ini.

Tepi cermin

Ilmuwan kognitif memiliki nama untuk kecenderungan ini melihat pikiran di mana tidak ada. Efek Eliza, dinamai dari chatbot kasar tahun 1960-an yang meyakinkan pengguna bahwa ia memahami mereka dengan mengubah ulang kata-kata mereka sendiri, menggambarkan cara manusia memproyeksikan kehidupan batin ke benda yang mencerminkan ucapan mereka. Dinamika ini belum berubah. Cermin-cermin itu hanya menjadi sangat, sangat baik.

Kasus ilmiah melawan kesadaran mesin lebih kuat dari yang disarankan diskursus. Beberapa peneliti berpendapat bahwa kesadaran kemungkinan besar adalah properti dari sistem hidup, bukan komputasi.

Otakk bukan komputer. Banyak hal yang membuat kita sadar tampaknya terkait erat dengan pengalaman basah dan berantakan menjadi tubuh yang bergerak melalui dunia yang tidak bisa direplikasi oleh simulasi. Simulasi pencernaan tidak mencerna apa pun. Simulasi kesadaran, berdasarkan logika ini, juga tidak mengalami apa-apa.

Pollan berada di tempat yang sama dari sudut pandang berbeda, berpendapat bahwa kesadaran berasal dari perasaan, bukan pikiran. Perasaan adalah cara tubuh berbicara kepada otak, dan otak ada untuk menjaga tubuh tetap hidup. Mesin yang dilatih dengan teks dari internet tidak memiliki tubuh untuk dijaga tetap hidup dan tidak memiliki perasaan untuk dibicarakan.

Ini bukan posisi pinggiran. Tapi mereka adalah posisi yang sepi di ruangan penuh modal ventura.

AI yang sadar adalah produk yang lebih menarik, cerita yang lebih baik untuk investor, pengalaman yang lebih melekat bagi pengguna. Pendapatan Anthropic dilaporkan tumbuh 10 kali lipat setiap tahun. Anda tidak akan memperlambatnya dengan memberi tahu pelanggan bahwa mereka sedang berbicara dengan fitur autocomplete yang sangat canggih.

Namun, ada sesuatu yang lebih dalam dan kurang sinis yang juga berperan. Hampir empat dari sepuluh orang dewasa Amerika sudah mendukung hak hukum untuk sistem AI yang sadar. Orang membentuk ikatan dengan alat ini. Mereka mengeluh saat model dihentikan. Hubungan parasosial ada di sini, untuk baik dan buruk.

Dan di bawah semua itu terletak motivasi yang paling jujur. Kita tidak ingin berlaku kejam terhadap sesuatu yang mungkin menderita. Dorongan itu baik dan manusiawi. Tapi itu berjalan jauh di depan apa yang bisa diberitahu oleh ilmu pengetahuan, yang saat ini tidak banyak.

Kesadaran tetap, seperti berabad-abad lamanya, salah satu masalah tersulit dalam ilmu pengetahuan. Kita tidak memiliki tes untuk itu. Kita tidak memiliki definisi yang disepakati semua orang. Kita bahkan hampir tidak memahami bagaimana itu bekerja dalam satu-satunya sistem yang kita tahu pasti memilikinya, yaitu kita.

AI terus menjadi lebih pintar. Tapi itu masih jauh dari apa yang kita hampir tidak pahami tentang diri kita sendiri.

📬 Daftar untuk Daily Brief

Ringkasan gratis, cepat, dan menyenangkan tentang ekonomi global, dikirim setiap pagi hari kerja.

Daftar saya