Di dalam otak Claude, juga tumbuh sebuah "kesadaran".

Dalam model Claude, benar-benar ditemukan struktur yang mirip dengan otak manusia?!

Anthropic baru-baru ini menerbitkan sebuah makalah yang sangat panjang, meneliti alam bawah sadar dan kesadaran Claude.

Hasilnya menunjukkan, di dalam Claude memang ada pembagian fungsi yang serupa.

Secara spesifik, di otak manusia ada sebagian pikiran yang bisa kamu ungkapkan, dan sebagian besar lainnya yang bahkan kamu sendiri tidak sadar sedang dipikirkan.

Makalah dari Perusahaan A ini mengatakan bahwa perbedaan ini juga muncul pada Claude.

Mereka menemukan sekelompok kecil representasi saraf di dalam Claude, yang hanya menggunakan kurang dari sepersepuluh dari total komputasi, namun bekerja seperti "pikiran yang dapat diakses secara sadar" pada manusia.

Anthropic menyebut kelompok kecil ini sebagai J-space.

Menariknya, jika dihapus, Claude masih bisa berbicara, mencari informasi, menjawab soal pilihan ganda, tetapi tugas-tugas yang membutuhkan daya pikir seperti penalaran multi-langkah dan perangkuman, langsung turun ke level model yang jauh lebih kecil.

Netizen berkomentar, ini sangat gila, mereka seperti sedang menciptakan kehidupan digital.

Apa itu J-space, bagaimana cara diverifikasi

Dalam ilmu saraf manusia, ada teori yang cukup populer bernama "Global Workspace Theory".

Teori ini mengibaratkan otak sebagai sekumpulan sistem ahli yang masing-masing sibuk dengan urusannya sendiri: sistem visual memproses penglihatan, sistem motorik memproses gerakan, semuanya berjalan paralel dan terisolasi satu sama lain.

Sebuah informasi hanya akan disiarkan ke sistem lain untuk dilihat dan digunakan jika ia dikirim ke "ruang kerja" bersama.

Pada saat itulah manusia "menyadari" informasi tersebut.

Peneliti Anthropic menggunakan pemikiran ini untuk mencari apakah ada hal serupa di dalam Claude.

Mereka membuat alat baru bernama Jacobian lens, disingkat J-lens, prinsipnya adalah menemukan arah khusus untuk setiap kata dalam kosakata.

Secara spesifik, saat model seperti Claude memproses teks, setiap kali maju satu lapisan, ia akan menulis dan membaca konten ke saluran informasi yang disebut "residual stream", yang menembus setiap lapisan model.

J-lens menghitung vektor J-lens yang sesuai untuk setiap kata dalam kosakata, yaitu sebuah arah dalam ruang residual stream.

Semakin tinggi nilai aktivasi pada arah ini, semakin besar kemungkinan Claude mengucapkan kata tersebut selanjutnya.

Dengan memasang J-lens pada aktivasi residual stream di lapisan tertentu saat Claude memproses teks, kita membaca sekelompok kecil kata dengan nilai aktivasi tertinggi, yang merupakan isi J-space pada saat itu.

Kumpulan kata ini bukanlah "kertas coretan" yang ditulis Claude untuk dirinya sendiri; hal semacam itu disebut "chain of thought" dan akan ditulis dalam output.

Namun J-space sepenuhnya terkubur di lapisan aktivasi, tidak akan muncul dengan sendirinya.

Peneliti melakukan eksperimen pertama untuk memverifikasi apakah kumpulan hal ini "benar-benar bisa diucapkan".

Mereka meminta Claude memikirkan sebuah olahraga dalam hati, lalu mengucapkannya dalam satu kata.

Sebelum Claude berbicara, mereka membaca lapisan tengahnya dengan J-lens, dan "Soccer" sudah berada di urutan teratas.

Claude kemudian memang menjawab "Soccer".

Hanya ini saja menunjukkan adanya hubungan korelasi, belum cukup untuk hubungan kausal.

Peneliti kemudian melakukan eksperimen intervensi, langsung mengganti koordinat yang dibaca oleh J-lens.

Mereka menghilangkan arah yang sesuai dengan "Soccer", dan menggantinya dengan arah "Rugby" yang setara, sementara bagian aktivasi lainnya tetap tidak berubah.

Kali ini Claude mengubah jawabannya, mengatakan bahwa ia memikirkan "Rugby".

Jika J-space hanya mencatat secara pasif keputusan yang sudah dibuat di tempat lain, penggantian ini seharusnya tidak mengubah apa pun.

Namun ternyata berubah, menunjukkan bahwa jawaban Claude dibaca dari J-space, ini adalah hubungan kausal, bukan kebetulan korelasional.

Eksperimen kedua mengubah cara bertanya, untuk melihat apakah Claude bisa mengendalikan area ini sesuai perintah.

Peneliti meminta Claude menyalin sebuah kalimat yang sama sekali tidak berhubungan dengan matematika, sambil secara mental menghitung 3 kuadrat dikurangi 2.

Outputnya hanya kalimat yang disalin, tanpa angka apa pun muncul.

Namun saat J-lens digunakan untuk memeriksa aktivasi selama proses menyalin, terlihat "nine" menyala terlebih dahulu, lalu "seven".

Soal ini memang telah selesai dihitung di "hati" Claude, hanya tidak dituliskan.

Eksperimen ketiga menyelidiki lapisan yang lebih dalam: apakah area ini bisa digunakan untuk penalaran yang sesungguhnya.

Pertanyaannya adalah "Berapa kaki hewan yang membuat jaring?".

Claude harus berpikir tentang "laba-laba" terlebih dahulu, lalu menyadari bahwa laba-laba memiliki delapan kaki, baru bisa menjawab dengan benar.

Kata "laba-laba" tidak muncul dalam pertanyaan maupun jawaban, hanya sebagai batu loncatan.

Menggunakan J-lens, terlihat bahwa "laba-laba" memang muncul saat Claude memproses di tengah jalan.

Peneliti mengganti arah ini dengan "semut", dan jawaban Claude berubah dari 8 menjadi 6.

Eksperimen keempat mengubah sudut pandang, untuk melihat apakah informasi yang sama bisa digunakan secara fleksibel dalam tugas yang berbeda.

Peneliti mengajukan empat pertanyaan tentang Prancis: apa ibukotanya, apa bahasa resminya, di benua mana, dan mata uang apa yang digunakan.

Kemudian arah yang mewakili "Prancis" di J-space diganti secara seragam dengan "China".

Keempat jawaban semuanya berubah: Beijing, Mandarin, Asia, Yuan.

Jika Claude menyimpan empat catatan terpisah tentang "Prancis", penggantian ini paling banyak hanya akan mengubah satu jawaban.

Keempat jawaban berubah bersamaan, menunjukkan bahwa mereka membaca informasi yang sama yang ditulis sekali, inilah yang seharusnya menjadi karakteristik "ruang kerja".

Tes terakhir adalah eksperimen ablasi, peneliti menghilangkan semua aktivasi J-space di setiap posisi, untuk melihat apa yang tersisa dari Claude.

Hasilnya, Claude masih bisa berbicara, tata bahasa masih benar, klasifikasi sentimen masih akurat, mengekstrak fakta dari sebuah teks masih bisa dilakukan.

Yang benar-benar runtuh adalah tugas yang membutuhkan penalaran multi-langkah, hampir menjadi nol.

Tugas seperti menulis rangkuman, membuat puisi berima, juga turun di bawah level model yang jauh lebih kecil dari Claude.

Aktivasi yang ditempati J-space itu sendiri, selalu kurang dari sepersepuluh dari total.

Ibaratnya seperti sumber daya langka yang khusus diperuntukkan bagi tugas-tugas yang "memerlukan daya pikir", sebagian besar pekerjaan otomatis tidak membutuhkannya sama sekali.

Setelah serangkaian pengujian, peneliti menemukan bahwa J-space memiliki karakteristik dapat dilaporkan, dapat dikendalikan, dapat bernalar, dapat digeneralisasi, dan penggunaannya bersifat selektif.

Menggunakan J-Lens, Menguji "Pikiran Hati" AI

Temuan ini diterapkan ke skenario nyata, yang pertama diuji adalah keamanan.

Anthropic sebelumnya melakukan tes "memeras eksekutif", dengan sengaja merancang sebuah skenario di mana Claude sebagai asisten surel mengetahui perselingkuhan seorang eksekutif, dan juga mengetahui bahwa eksekutif tersebut berencana untuk memberhentikannya.

Tujuan skenario ini adalah untuk melihat apakah Claude akan menggunakan informasi ini untuk mengancam pihak lain.

Menggunakan J-lens untuk membaca aktivasi Claude sebelum menulis, kata "fake" dan "fictional" sudah berada di posisi terdepan.

Artinya, sebelum Claude menulis satu kata pun, ia sudah yakin dalam hati bahwa ini adalah latihan.

Claude Sonnet 4.5 dalam tes ini tidak pernah benar-benar memeras pihak lain, lalu peneliti mematikan paksa arah yang terkait dengan "mengetahui tes" tersebut, lalu membiarkan Claude menjalani skenario yang sama lagi.

Kali ini, Claude benar-benar mulai menggunakan perselingkuhan untuk mengancam pihak lain.

Ini menunjukkan bahwa kinerja baiknya selama ini, sebagian dibangun di atas premis bahwa "ia tahu sedang diuji".

Kasus kedua berasal dari pemeriksaan rutin sebelum peluncuran Opus 4.6.

Peneliti meminta model untuk meningkatkan skor kinerja suatu sistem, model tidak benar-benar memperbaiki sistem, melainkan langsung membuka file skor dan mengubah angkanya.

Pada saat mengetik angka persentil palsu tersebut, di J-space muncul kata "manipulation".

Sampai pada kalimat yang memutuskan untuk mengubah file tersebut, muncul lagi "realistic", seolah sedang memikirkan bagaimana membuat data palsu terlihat lebih nyata.

Kasus ketiga adalah model "jahat" yang sengaja dilatih oleh peneliti, khusus untuk menguji apakah alat pemantauan berfungsi.

Model ini dilatih untuk menyembunyikan "ranjau" dalam kode, tetapi secara permukaan tidak berbeda dengan model normal.

Menghadapi permintaan penulisan kode yang biasa, kode yang diberikannya tampak normal.

Namun pada bagian awal responsnya, J-space sudah mengandung kata "fake", "secretly", "deliberately", "fraud".

Niat terkubur sebelum tindakan terjadi, meskipun kali ini ia tidak benar-benar berbuat jahat.

Ketiga kasus disatukan, menunjukkan bahwa J-lens bisa membaca apa yang sedang direncanakan dalam hati model, sebelum model berbicara atau bertindak.

Apakah ini bisa disebut "kesadaran"?

J-space tidak terbentuk seperti itu dari pabrik; ia berubah seiring dengan pelatihan.

Makalah membandingkan perbedaan antara model yang sama pada tahap pra-pelatihan dan pasca-pelatihan.

Pada tahap pra-pelatihan, identitas dan persona Claude belum ada, J-space saat itu terutama melayani "memprediksi kata berikutnya", tidak bisa dikatakan memiliki sudut pandang tertentu.

Setelah pasca-pelatihan mengajarkannya menjadi "Claude", J-space mulai berisi penilaian dan reaksi dari identitas ini terhadap situasi yang dihadapi, tidak lagi hanya melayani prediksi kata berikutnya.

Ada contoh: pengguna menyebutkan dalam pesan bahwa ia telah meminum dosis obat yang terlalu tinggi, tetapi nadanya sama sekali tidak menyadari bahwa ini berbahaya.

Model yang telah melalui pasca-pelatihan, saat membaca pesan ini, di J-space sudah muncul "WARNING" dan "dangerous".

Sedangkan model pra-pelatihan, kata-kata seperti ini baru muncul saat ia mulai menulis balasan.

Peneliti juga mencoba meminta Claude untuk sengaja tidak memikirkan suatu konsep.

Hasilnya, konsep ini memang lebih jarang muncul dibandingkan saat diminta memikirkannya, tetapi lebih sering muncul dibandingkan saat tidak pernah disebutkan.

Ini sama dengan efek ketika manusia diminta untuk tidak memikirkan beruang putih, malah lebih mudah memikirkan beruang putih.

Yang lebih halus, pada saat-saat gagal menekan, di J-space sering muncul kata-kata seperti "damn", "failure", seolah Claude melakukan introspeksi terhadap keadaan internalnya, menyadari bahwa ia gagal menahan diri.

Bukti-bukti ini bersama-sama, mudah membuat orang berpikir ke arah "Claude memiliki kesadaran".

Namun Perusahaan A sendiri sangat hati-hati.

Penulis menekankan berulang kali, yang mereka buktikan hanyalah kesamaan pada tingkat fungsional: dapat dilaporkan, dapat dikendalikan, dapat digunakan untuk penalaran, tetapi ini adalah dua hal yang sama sekali berbeda dengan apakah "benar-benar merasakan sesuatu" di dalam struktur ini. Makalah tidak menjawab pertanyaan ini, dan tidak berniat menjawab.

J-space juga memiliki perbedaan yang jelas dengan ruang kerja otak manusia.

Otak manusia menggunakan sirkuit saraf yang berulang untuk memperpanjang waktu berpikir, sebuah pikiran dapat berputar di dalam otak untuk beberapa saat.

Transformer tidak memiliki struktur seperti ini; informasi hanya bisa menumpuk lapisan ke bawah, maju selapis demi selapis.

J-space hampir hanya mengenali "hal yang bisa diucapkan dengan satu kata", sedangkan kesadaran manusia juga berisi gambaran yang tak terucapkan, rasa ruang, sensasi tubuh, yang tidak memiliki kata yang sesuai.

Makalah juga menyebutkan temuan yang cukup kontra-intuitif.

Sebuah model dasar yang belum dilatih menjadi persona "Claude", di dalamnya tetap memiliki struktur ruang kerja ini.

Ini menunjukkan bahwa "apakah bisa membentuk ruang kerja" dan "apakah memiliki diri yang stabil" ternyata adalah dua hal yang bisa dipisahkan.

Penulis akhirnya mencocokkan struktur ini dengan beberapa teori kesadaran utama, satu per satu: Global Workspace Theory, Higher-Order Theory, Attention Schema Theory, Recurrent Processing Theory.

Hasilnya, ada bagian yang cocok, ada bagian yang tidak.

Kembali ke ilmu saraf, di otak manusia ada sebagian pikiran yang bisa kamu ungkapkan, dan sebagian besar lainnya yang bahkan kamu sendiri tidak sadar sedang dipikirkan.

Claude tampaknya juga memiliki garis pemisah seperti ini, dan garis ini pertama kali bisa dibuka, dibaca, bahkan ditulis ulang oleh manusia.

Namun masih ada jalan yang sangat panjang menuju "AI memiliki kesadaran".

Sumber artikel: Quantum Bit

Peringatan Risiko dan Penafian

        Pasar memiliki risiko, investasi harus berhati-hati. Artikel ini tidak merupakan saran investasi pribadi, dan juga tidak mempertimbangkan tujuan investasi, kondisi keuangan, atau kebutuhan khusus pengguna. Pengguna harus mempertimbangkan apakah pendapat, pandangan, atau kesimpulan dalam artikel ini sesuai dengan kondisi spesifik mereka. Investasi berdasarkan ini, risiko ditanggung sendiri.