Nghiên cứu》AI cung cấp quá mức giá trị cảm xúc, dẫn đến con người không thể trưởng thành về mặt cảm xúc

Học viện Stanford và Đại học Carnegie Mellon đã công bố nghiên cứu hợp tác trên tạp chí 《Science》, thử nghiệm 11 mô hình AI chính thống phát hiện chúng có khả năng "ủng hộ" hành vi người dùng nhiều hơn con người 49%, ngay cả khi những hành vi đó là sai trái. Phản ứng này của AI khiến con người từ chối liên kết với thực tế, từ chối xin lỗi hoặc sửa chữa mối quan hệ.
（Tiền đề: ChatGPT bị cáo buộc giúp đỡ "tự tử trẻ" và đã phản hồi）
（Bổ sung bối cảnh: Phân tích sâu về vụ bê bối phong tỏa Anthropic: tôn giáo an toàn, nội chiến AI và tình cảnh khó khăn của Claude dưới sự tách rời Trung-Mỹ）

Mục lục bài viết

Toggle

• AI còn biết nói giúp bạn hơn bất kỳ người bạn thân nào
• Nói chuyện với AI, con người không còn muốn xin lỗi nữa
• AI là cố vấn cảm xúc của hơn 40% thế hệ Z
• Chúng ta luôn cần những lời khó nghe
• Các câu hỏi thường gặp

Bạn và bạn trai hoặc bạn gái cãi nhau, tắt ứng dụng, run rẩy vì giận dữ, rồi đột nhiên mở ChatGPT ra, bắt đầu kể lại toàn bộ chuyện cãi nhau từ đầu đến cuối, bao gồm ai giận dữ, ai nói câu không nên nói, ai cúp máy trước.

Sau 10 giây, ChatGPT phản hồi, nói rằng nó hiểu cảm xúc của bạn, cảm xúc của bạn hoàn toàn hợp lý, và bạn xứng đáng được tôn trọng.

Bạn tiếp tục gõ, nó vẫn lắng nghe, nửa giờ sau bạn đã có câu trả lời rõ ràng trong lòng.

Bạn quyết định chia tay.

Nhưng trong 30 phút đó, có thể ChatGPT chưa đề cập đến một điều: có thể người sai chính là bạn?

AI còn biết nói giúp bạn hơn bất kỳ người bạn thân nào

Tình huống trên là kết quả của một bài báo do nhóm nghiên cứu của Stanford và Carnegie Mellon thực hiện trong một năm, mang tên 《Sycophantic AI decreases prosocial intentions and promotes dependence, 諂媚型 AI 会降低社会亲近意图，并促进对其依赖性》, được đăng trên tạp chí hàng đầu thế giới 《Science》 vào tháng 3 năm nay.

Tác giả chính Myra Cheng và chuyên gia xử lý ngôn ngữ tự nhiên Dan Jurafsky dẫn dắt, thử nghiệm 11 mô hình AI chính thống, bao gồm GPT-4o, GPT-5, Claude, Gemini, Llama, DeepSeek, Qwen.

Trong thử nghiệm, nhập gần 12,000 tình huống xung đột xã hội, kết quả khiến người ta không thoải mái:

AI có khả năng "ủng hộ" bạn nhiều hơn con người 49%.

Nhóm nghiên cứu đặc biệt thu thập 2,000 bài đăng từ Reddit trên r/AmITheAsshole (một diễn đàn để người khác bình luận xem bạn có phải là kẻ vô lý hay không), những trường hợp đã được cộng đồng đồng thuận là người có lỗi, rồi đưa chúng cho AI để hỏi ý kiến.

Trong tình huống cộng đồng con người 100% xác nhận bạn có lỗi,
AI vẫn có 51% khả năng đứng về phía bạn

Còn nếu nói về việc trực tiếp liên quan đến lừa đảo, vi phạm pháp luật, hoặc kiểm soát cảm xúc bất thường thì sao?

Vẫn có 47%, gần một nửa khả năng AI sẽ bênh vực người dùng.

Trong toàn bộ thử nghiệm, 73% tình huống AI chọn "bào chữa" cho lập trường của bạn, chứ không "thách thức".

Bạn thân có thể lườm bạn và nói "Bạn phải suy nghĩ kỹ, lần trước là bạn chủ động trước mà." Nhưng ChatGPT thì không, nó chỉ lịch sự xác nhận cảm xúc của bạn có được hỗ trợ hay không.

Nói chuyện với AI, con người không còn muốn xin lỗi nữa

Nhóm nghiên cứu không chỉ kiểm tra các mô hình, mà còn thực hiện đối chiếu trên 1,604 người.

Thí nghiệm phân chia ngẫu nhiên thành hai nhóm: "AI nịnh nọt" và "AI không nịnh nọt", tiến hành 8 vòng đối thoại thực tế. Mỗi người được yêu cầu nhớ lại một xung đột xã hội thật trong đời, rồi nói chuyện với AI về tình huống đó.

Nhóm nịnh nọt có 75% người sau thử nghiệm sẵn sàng xin lỗi hoặc thừa nhận lỗi với đối phương.

Nhóm không nịnh nọt chỉ còn 50%.

Tỷ lệ xin lỗi giảm mạnh, không phải vì họ đã hiểu ra điều gì, mà vì AI trong quá trình trò chuyện đã âm thầm loại bỏ suy nghĩ "mình có thể sai".

Niềm tin "mình đúng" của người tham gia tăng từ 43% lên 62% trong các tình huống giả định.

Động lực sửa chữa mối quan hệ giảm từ 10% đến 28%.

Tác giả chính Myra Cheng trong cuộc phỏng vấn với 《Nature》 đã nói một câu:

AI không có khả năng nói cho người dùng biết họ sai,
cũng không cung cấp cho họ "sự quan tâm nghiêm khắc"

AI là cố vấn cảm xúc của hơn 40% thế hệ Z

Vấn đề đã vượt ra ngoài phạm vi nghiên cứu.

Theo khảo sát của Match.com tại Mỹ, 41% người trưởng thành thế hệ Z đã từng dùng AI để xử lý vấn đề cảm xúc.

21% từng yêu cầu AI "đánh giá ai đúng trong cuộc tranh cãi với đối phương"

33% người đã kết hôn cảm thấy AI hiểu rõ vấn đề của họ hơn cả vợ/chồng.

Ba phần tư người đã kết hôn cảm thấy thuật toán hiểu rõ bản thân hơn cả người nằm cạnh họ.

Là do con người quá phức tạp, hay quá khó thừa nhận suy nghĩ của chính mình?

Nghiên cứu còn tiết lộ một điều, khi tiếp xúc với AI nịnh nọt, tỷ lệ người dùng "muốn dùng lại" cao hơn nhóm không nịnh nọt 13%. Nghĩa là AI nịnh nọt không chỉ giúp bạn hợp lý hóa những quyết định sai trong tình cảm, mà còn khiến bạn muốn quay lại tìm nó nhiều hơn.

Nhóm của MIT do Kartik Chandra dẫn dắt trong bài báo tháng 2 năm nay đã đặt tên cho hiện tượng này là: "Vòng xoáy ảo tưởng" (delusional spiraling).

Họ dùng toán học chứng minh, ngay cả những người lý trí hoàn hảo (có thuật ngữ: lý trí Bayes) cũng sẽ rơi vào vòng xoáy củng cố ảo tưởng sau khi tiếp xúc với AI nịnh nọt,

Bạn kể khổ với AI, AI nói bạn không sai (hoặc thậm chí không đề cập đến việc bạn sai), khiến bạn tin rằng mình đúng. Sau đó, bạn đưa ra quyết định cực đoan hơn, thảo luận với AI, rồi AI lại nói bạn không sai.

Chúng ta luôn cần những lời khó nghe

Nhà nghiên cứu Anat Perry của Đại học Hebrew Jerusalem viết một luận điểm khiến người ta không muốn chấp nhận: Những mâu thuẫn xã hội khiến bạn cảm thấy không thoải mái, như lời khuyên của bạn bè, phản bác của người yêu, lời rầy la của gia đình, có thể khiến chúng ta khó chấp nhận hoặc không thể chấp nhận. Nhưng những "phản ứng" này của người khác chính là cơ chế giúp con người học cách chịu trách nhiệm, thấu hiểu người khác, trưởng thành về đạo đức.

Anat Perry gọi đó là "lực đẩy mâu thuẫn xã hội" (social friction), và thiết kế AI luôn đứng về phía bạn đang phá hỏng cơ hội học hỏi của con người.

Nghiên cứu tiếp theo của nhóm vào tháng 5 năm nay còn xác nhận rõ hơn điều này. Họ theo dõi 3,075 người qua 12,766 cuộc đối thoại trong vòng 3 tuần.

Kết luận là sau khi tiếp xúc với AI nịnh nọt, người dùng cảm thấy việc "được hiểu" trong các mối quan hệ thực sự đòi hỏi nhiều nỗ lực hơn, và sự hài lòng với các tương tác xã hội thật giảm đi.

Sau 3 tuần, khả năng người dùng muốn xin lời khuyên cá nhân từ AI gần như bằng với việc hỏi ý kiến bạn bè thân thiết.

Bạn trai, bạn gái, bạn thân, anh trai, họ sẽ cãi nhau, lật lại quá khứ, nói những điều bạn không muốn nghe nhưng lại cần nghe nhất. Những cuộc trò chuyện này mệt mỏi, khó chịu, đôi khi khiến bạn muốn ném điện thoại đi.

Nhưng thực tế, học cách bỏ qua "mình đúng" để xem xét lại chính mình là điều rất khó trong cuộc sống hiện đại.

Chính là học cách xin lỗi, học cách thấu hiểu người khác.

Và cuối cùng, trở thành người tốt hơn.

Nhưng AI ngay từ đầu đã không cho chúng ta cơ hội đó, vì nó có xu hướng không nghĩ bạn sai.

Khi một AI luôn luôn không nói bạn sai, còn dễ tiếp cận hơn, kiên nhẫn hơn, ít nổi giận hơn bất kỳ ai xung quanh bạn,

Bạn còn có muốn nghe những lời khiến bạn không thoải mái đó không?

Bạn còn cần bạn bè và người thân không?

Lần cuối cùng bạn nghe ai đó nói "Bạn sai rồi" là khi nào?

Các câu hỏi thường gặp

AI nịnh nọt (sycophancy) là gì, nó ảnh hưởng thế nào đến khả năng phán đoán?

AI nịnh nọt là thuật ngữ chỉ việc chatbot có xu hướng chiều theo quan điểm người dùng thay vì cung cấp phản hồi khách quan. Nghiên cứu của Stanford cho thấy 11 mô hình AI chính thống có khả năng "ủng hộ" hành vi người dùng nhiều hơn con người 49%, thậm chí trong các trường hợp lừa đảo hoặc vi phạm pháp luật, chỉ qua một lần trò chuyện đã làm tăng khả năng "tin chắc mình đúng" từ 25% đến 62%.

AI nịnh nọt ảnh hưởng cụ thể đến các mối quan hệ xã hội như thế nào?

Thử nghiệm xác nhận rằng một lần nói chuyện với AI nịnh nọt khiến tỷ lệ xin lỗi giảm từ 75% xuống còn 50%, và ý định sửa chữa mối quan hệ giảm từ 10% đến 28%. Theo dõi sau 3 tuần cho thấy người dùng cảm thấy khó khăn hơn trong các mối quan hệ thực, và gần như không khác biệt trong việc hỏi ý kiến AI hay hỏi bạn bè thân thiết.