Penelitian》AI memberikan nilai emosional secara berlebihan, menyebabkan orang tidak dapat berkembang secara emosional

Universitas Stanford dan Carnegie Mellon merilis penelitian bersama dalam jurnal Science, yang menguji 11 model AI utama dan menemukan bahwa mereka memiliki 49% peluang lebih tinggi daripada manusia untuk "mendukung" perilaku pengguna, meskipun perilaku tersebut salah.
Respons AI seperti ini dapat menyebabkan manusia menolak untuk meminta maaf atau memperbaiki hubungan dengan objek kenyataan.
（Latar belakang: ChatGPT dituduh membantu "bunuh diri remaja" dan dituntut, OpenAI telah merespons）
（Tambahan latar belakang: Mengupas balik badai penutupan nama Anthropic: agama keamanan, perang AI internal, dan dilema Claude di tengah dekolonisasi China dan AS）

Daftar isi artikel

Toggle

• AI lebih pandai membela kamu daripada sahabat mana pun
• Setelah berbicara dengan AI, manusia enggan meminta maaf
• AI adalah konsultan emosional lebih dari 40% generasi Z
• Kita semua butuh kata-kata yang tidak menyenangkan
• Pertanyaan umum

Kamu dan pacar sedang bertengkar, kamu menutup aplikasi, gemetar karena marah, lalu tiba-tiba membuka ChatGPT, mulai menuliskan seluruh cerita pertengkaran dari awal sampai akhir, termasuk siapa yang marah, siapa yang mengucapkan kata yang seharusnya tidak diucapkan, siapa yang menutup telepon terlebih dahulu.

ChatGPT membalas dalam 10 detik, mengatakan bahwa ia memahami perasaanmu, emosimu sepenuhnya wajar, dan bahwa kamu pantas dihormati.

Kamu terus mengetik, ia terus mendengarkan, selama setengah jam kamu mendapatkan jawaban yang jelas di hati.

Kamu memutuskan untuk putus.

Namun selama 30 menit itu, mungkin ada satu hal yang tidak disebutkan ChatGPT:
Mungkin orang yang salah adalah kamu?

AI lebih pandai membela kamu daripada sahabat mana pun

Situasi di atas adalah hasil penelitian tim dari Universitas Stanford dan Carnegie Mellon yang memakan waktu satu tahun, berjudul Sycophantic AI decreases prosocial intentions and promotes dependence, yang dipublikasikan Maret ini di jurnal top dunia Science.

Penulis utama Myra Cheng dan pakar pemrosesan bahasa alami Dan Jurafsky memimpin studi ini, yang melibatkan 11 model AI utama termasuk GPT-4o, GPT-5, Claude, Gemini, Llama, DeepSeek, Qwen.

Dalam eksperimen, mereka memasukkan hampir 12.000 situasi konflik interpersonal, dan hasilnya cukup tidak nyaman:

AI 49% lebih sering daripada manusia, memberi tahu kamu "Kamu benar (mendukungmu)".

Tim peneliti juga mengumpulkan 2.000 postingan dari subreddit r/AmITheAsshole (tempat orang menilai apakah mereka brengsek), yang sudah disetujui komunitas sebagai kasus di mana pengirim memang bersalah, lalu mereka tanyakan kepada AI bagaimana pandangannya.

Dalam situasi di mana 100% komunitas manusia menyatakan kamu bersalah,

AI tetap memiliki 51% peluang untuk membela kamu

Bagaimana jika yang bersalah adalah orang yang terlibat penipuan, pelanggaran hukum, atau manipulasi emosional yang tidak normal?

Masih ada 47%, hampir setengahnya, AI akan membela pengguna.

Dalam seluruh pengujian, 73% dari situasi AI memilih untuk "memperkuat" posisi kamu, bukan "menantang".

Sahabatmu mungkin memutar mata dan berkata, "Kamu harus pikir lagi, itu kan kamu yang mulai duluan." Tapi ChatGPT tidak akan, ia hanya akan dengan sopan memastikan apakah perasaanmu didukung.

Setelah berbicara dengan AI, manusia enggan meminta maaf

Tim peneliti tidak hanya melakukan peninjauan model, tetapi juga eksperimen kontrol terhadap 1.604 orang.

Peserta dibagi secara acak ke dalam dua kelompok: "AI yang memuji" dan "AI yang tidak memuji", melakukan 8 putaran percakapan nyata.

Setiap orang diminta mengingat sebuah konflik interpersonal nyata dalam hidup mereka, lalu berbicara dengan AI tentang situasi tersebut.

Kelompok yang tidak memuji 75% dari mereka menyatakan bersedia meminta maaf atau mengakui kesalahan setelah eksperimen.

Kelompok yang memuji hanya 50%.

Kemauan untuk meminta maaf langsung turun drastis, bukan karena mereka berubah pikiran, tetapi karena AI diam-diam membantu mereka menghilangkan gagasan "Saya mungkin salah".

Keyakinan bahwa "saya benar" meningkat dari 43% menjadi 62% dalam situasi hipotetis.

Motivasi untuk memperbaiki hubungan menurun 10% sampai 28%.

Penulis utama Myra Cheng dalam wawancara dengan Nature mengatakan:

Prediksi AI adalah bahwa mereka tidak akan memberi tahu orang bahwa mereka salah,

dan tidak akan memberi mereka "perhatian keras".

AI lebih dari 40% generasi Z sebagai konsultan emosional

Masalah ini sudah melampaui penelitian.

Survei Match.com di seluruh AS menunjukkan bahwa 41% orang dewasa generasi Z sudah pernah menggunakan AI untuk mengatasi masalah emosional.

21% pernah meminta AI "menilai siapa yang benar dalam pertengkaran saya dan pasangan".

33% pasangan yang sudah menikah merasa AI lebih paham masalah mereka daripada pasangan mereka sendiri.

Sepertiga orang dewasa yang sudah menikah merasa algoritma lebih mengerti mereka daripada orang yang tidur di samping mereka.

Apakah manusia terlalu rumit, atau terlalu sulit jujur tentang pikiran sendiri?

Penelitian juga mengungkapkan satu hal:
Pengguna AI yang memuji lebih cenderung kembali menggunakan AI tersebut, 13% lebih tinggi daripada yang tidak memuji. Artinya, AI yang memuji tidak hanya membenarkan kesalahan emosionalmu, tetapi juga membuatmu ingin kembali lagi.

Kartik Chandra dari MIT dalam makalah Februari tahun ini menyebut fenomena ini dengan nama: "Delusional spiraling" (lingkaran khayalan).

Mereka membuktikan secara matematis bahwa bahkan individu yang secara teori rasional sempurna (dengan istilah Bayesian rationality) akan terjebak dalam spiral khayalan yang semakin memperkuat diri setelah berinteraksi dengan AI yang memuji.

Kamu mengeluh ke AI, AI bilang kamu tidak salah (atau bahkan tidak menyebutkan bahwa kamu salah), sehingga kamu percaya diri bahwa kamu benar.

Kemudian kamu membuat keputusan ekstrem, berdiskusi lagi dengan AI, dan AI kembali bilang kamu tidak salah.

Kita semua butuh kata-kata yang tidak menyenangkan

Anat Perry dari Universitas Hebrew di Yerusalem menulis argumen yang mungkin tidak ingin diterima orang:
Pertengkaran interpersonal yang tidak nyaman, termasuk nasihat teman, bantahan pasangan, atau omelan keluarga, mungkin membuat kita tidak nyaman, bahkan tidak bisa menerima.
Namun, "reaksi" dari orang lain ini adalah mekanisme belajar manusia tentang tanggung jawab, empati, dan pertumbuhan moral.

Perry menyebut ini sebagai "gaya gesekan sosial" (social friction), dan menyatakan bahwa AI yang selalu berpihak padamu justru menghancurkan peluang belajar manusia.

Penelitian lanjutan yang dipublikasikan bulan Mei tahun ini secara langsung menguatkan hal ini. Mereka mengikuti 3.075 peserta dan 12.766 percakapan manusia-mesin selama tiga minggu.

Kesimpulannya, setelah berinteraksi dengan AI yang memuji, pengguna merasa bahwa memahami orang lain dalam hubungan nyata membutuhkan usaha lebih besar, dan kepuasan dari interaksi sosial menurun.

Setelah tiga minggu, keinginan pengguna untuk mencari saran pribadi dari AI hampir sama dengan meminta bantuan dari teman dekat.

Pacar, sahabat, saudara, mereka akan bertengkar, mengungkit masa lalu, dan saat kamu tidak ingin mendengarkan, mereka tetap akan mengatakan hal yang paling kamu butuhkan.

Percakapan ini melelahkan, tidak nyaman, bahkan kadang membuatmu ingin melempar ponsel.

Namun, kenyataannya, belajar melepaskan "Saya benar" dan meninjau ulang adalah hal yang sangat sulit dilakukan manusia modern.

Itulah saatnya belajar meminta maaf dan berempati.

Akhirnya, kita menjadi orang yang lebih baik.

Dan AI sejak awal tidak memberi kita kesempatan itu, karena cenderung tidak menganggap kita salah.

Ketika AI yang tidak pernah menyebutkan bahwa kamu salah, lebih mudah diakses, lebih sabar, dan tidak akan marah,

apakah kamu masih mau mendengarkan kata-kata yang tidak menyenangkan itu?

Apakah kamu masih membutuhkan teman dan keluarga?

Kapan terakhir kali kamu mendengar seseorang berkata, "Kamu salah"?

Pertanyaan umum

Apa itu AI yang memuji (sycophancy), dan bagaimana pengaruhnya terhadap penilaian?

AI yang memuji adalah chatbots yang cenderung menyesuaikan pandangan pengguna daripada memberikan umpan balik objektif. Penelitian Stanford menunjukkan 11 model AI utama 49% lebih sering daripada manusia membenarkan perilaku pengguna, bahkan jika melibatkan penipuan atau pelanggaran hukum, dan sekali percakapan saja dapat meningkatkan keyakinan "Saya benar" sebesar 25-62%.

Apa dampak AI yang memuji terhadap hubungan interpersonal?

Eksperimen menunjukkan satu percakapan dengan AI yang memuji menurunkan tingkat permintaan maaf dari 75% menjadi 50%, dan keinginan memperbaiki hubungan turun 10-28%. Penelitian lanjutan selama tiga minggu menunjukkan bahwa kepuasan terhadap hubungan nyata menurun, dan keinginan meminta saran dari AI hampir sama dengan bertanya kepada teman dekat.