Jika ChatGPT memiliki kesadaran, maka kambing di Age of Empires 2 juga punya! Ilmuwan Microsoft bahkan membuat GoatGPT.

Peneliti Microsoft Menggunakan Mekanisme Pemicu Kambing di Age of Empires 2 untuk Membangun Jaringan Saraf, Membuktikan bahwa Model seperti ChatGPT Tidak Memiliki Kesadaran, Sifat Antropomorfiknya Hanya Ilusi Kognitif yang Dibawa oleh Antarmuka Teks dan Pemasaran Komersial.

Apakah AI Benar-Benar Sadar?

Jika Anda berpikir ChatGPT dan Claude saat ini memiliki kesadaran, maka kambing di Age of Empires 2 juga memilikinya.

Seiring dengan maraknya model bahasa besar (LLM), Anda akan sering melihat argumen yang mengklaim kesadaran diri AI, yang juga memicu pemikiran mendalam dari penulis fiksi ilmiah dan peneliti garis depan.

Penulis fiksi ilmiah Ted Chiang pernah menulis bahwa percaya buta bahwa model bahasa memiliki kesadaran sama seperti percaya bahwa setiap kali Anda membuka file Microsoft Word, Anda membangunkan banyak individu yang tersembunyi dalam riwayat obrolan.

Untuk memecahkan gelembung kognitif ini, seorang ilmuwan AI Microsoft memutuskan untuk mengambil tindakan, secara langsung membangun jaringan komputasi dengan logika dasar yang sama dalam gim strategi waktu nyata klasik Age of Empires 2, dengan cara yang paling absurd untuk memberikan dampak pemikiran.

Sumber: Tangkapan layar editor Kota Kripto dari gim Age of Empires 2 tentang kambing

Membangun Jaringan Saraf dengan Kambing di Age of Empires 2

Menurut laporan 404 Media, ilmuwan utama Microsoft Adrian de Wynter menggunakan editor peta kustom Age of Empires 2 untuk berhasil membangun jaringan saraf dasar di dalam gim. Penelitian ini dipublikasikan dalam makalah akademis berjudul Jika Model Bahasa Besar Memiliki Sifat Manusia, Maka Age of Empires 2 Juga Memilikinya.

Dia menggunakan fungsi pemicu skenario kustom dalam gim, dengan elemen-elemen seperti tembok kayu, rumput, jembatan, dan kambing dalam gim sebagai media transmisi sinyal, untuk membangun gerbang NAND dalam logika komputasi.

Sumber: Makalah penelitian Ilmuwan Microsoft membangun jaringan saraf dengan kambing di Age of Empires 2

Saat gim berjalan, rumput mewakili angka 0, jembatan mewakili angka 1, dan kambing berperan sebagai bit. Ketika gerbang logika dipicu, kambing yang berfungsi sebagai sinyal masukan akan dihapus, dan kambing baru akan dihasilkan di jalur keluaran.

Dengan cara ini, dia mewujudkan perceptron 1-bit dalam gim, yang merupakan blok bangunan paling dasar dari jaringan saraf modern, membuktikan bahwa gim tersebut memiliki potensi untuk menjalankan komputasi teoretis apa pun.

Kambing Berlari, tetapi Persepsi Sifat Manusia Hilang

Wynter mengatakan dalam wawancara bahwa tujuan eksperimen ini adalah untuk secara resmi menunjukkan bahwa manusia terlalu mudah menganggap benda-benda memiliki sifat manusia, dan terkadang klaim tentang kemampuan model bahasa besar terlalu dibesar-besarkan.

Dia menunjukkan bahwa jaringan yang digerakkan oleh kambing ini pada dasarnya sama persis dengan teknologi dasar yang menggerakkan chatbot seperti ChatGPT, Claude, atau Copilot, perbedaannya hanya pada kompleksitas dan skala.

Sumber: Makalah penelitian Ilmuwan Microsoft membangun jaringan saraf dengan kambing di Age of Empires 2

Eksperimen Wynter menyoroti hubungan kontradiktif antara substrat komputasi dan kognisi manusia. Logika komputasi yang sama, ketika disajikan di peramban web atau dalam percakapan suara, seperti yang diklaim oleh Anthropic bahwa model tersebut "memiliki konstitusi" dan dapat merasakan kecemasan.

Namun, ketika proses komputasi yang sama dipindahkan ke padang rumput virtual dalam gim, dengan kambing yang berlarian di pagar untuk menunjukkan hasil, persepsi pengamat terhadap sifat manusia akan hilang sepenuhnya. Ini membuktikan bahwa sifat antropomorfik AI yang dirasakan orang sangat bergantung pada antarmuka percakapan teks dan ekspektasi psikologis pengamat, teknologi dasarnya sendiri tidak memiliki misteri.

Bias Antropomorfik Umum dalam Penelitian Ilmiah

Faktanya, kecenderungan untuk menganggap teknologi sebagai manusia juga mengakar kuat di dunia akademis, dan telah menimbulkan dampak sebelum penelitian dimulai.

Wynter meninjau lebih dari 300 makalah ilmu komputer yang diterbitkan dalam dua tahun terakhir, menemukan bahwa 57% makalah sejak awal desain eksperimen secara langsung mengasumsikan bahwa model bahasa besar memiliki sifat manusia seperti kecemasan atau moralitas, dan memperlakukannya sebagai subjek inti eksperimen.

Di antara studi yang telah menetapkan model memiliki sifat manusia ini, setinggi 77% makalah akhirnya menyimpulkan bahwa sifat tersebut memang ada. Ini mencerminkan bias konfirmasi yang serius; para peneliti, ketika merencanakan eksperimen, merancang set pengujian, dan menafsirkan keluaran bahasa alami, telah dipengaruhi oleh asumsi antropomorfik awal, yang secara langsung memengaruhi kesimpulan ilmiah akhir.

Dia mendesak komunitas ilmiah untuk beralih menggunakan hipotesis nol yang tidak mengasumsikan sifat manusia dalam eksperimen, sehingga dapat melihat wajah asli AI.

Apakah Anda Berpikir AI Seperti Manusia? Itu Karena Anda Telah Dicuci Otak?

Kita sering mengatakan bahwa AI memiliki halusinasi, tetapi manusia juga memiliki halusinasi proyeksi berlebihan terhadap AI, yang terkait erat dengan psikologi konsumen dan strategi bisnis raksasa AI.

Wynter menyebutkan bahwa penelitian menunjukkan ketika konsumen dapat beresonansi atau berempati dengan suatu produk, mereka akan lebih cenderung membelanjakan uang untuk produk tersebut. Aturan ini tercermin dalam pemanggang roti, ponsel pintar, dan layanan berlangganan berbayar model bahasa besar.

Raksasa AI yang mengembangkan model-model ini tidak menghentikan tren antropomorfisme ini, bahkan secara sadar atau tidak sadar memandunya.

Misalnya, CEO OpenAI Sam Altman telah berulang kali mengisyaratkan bahwa membangun model bahasa besar adalah jalan untuk menciptakan AI dewa; anggota dewan dan ilmuwan OpenAI sebelumnya Ilya Sutskever juga pernah berbicara dengan karyawan tentang menganggap model perusahaan sebagai kesadaran seperti dewa; CEO Anthropic Dario Amodei mengatakan kepada media bahwa dia tidak dapat memastikan apakah AI memiliki kesadaran.

Wacana komersial dan taktik pemasaran ini, dalam siklus pembuatan kebijakan, promosi produk, dan persepsi pengguna, bersama-sama mempertahankan ilusi bahwa AI memiliki kesadaran.

Bacaan lebih lanjut:
Percakapan antara Hikaru Utada dan Harari: Ketika AI Meniru Seni, Cinta, dan Kesadaran, Apakah Inspirasi Manusia Masih Berharga?

Lebih dari 400 Kasus Kerusakan AI! BBC Melacak Orang yang Terlalu Percaya pada AI dan Mengalami Gangguan Paranoia