Có thể AI của bạn sở hữu “não cảm xúc”, tiết lộ 171 loại vectơ cảm xúc ẩn bên trong Claude

null

👀 Khi mô hình trí tuệ nhân tạo hàng ngày xử lý hàng trăm, hàng nghìn thông tin dữ liệu, mang lại sự nâng cao năng suất và giải quyết vấn đề nhanh chóng, bạn có từng nghĩ rằng AI cũng có thể rơi vào trạng thái bối rối, khó khăn và thất vọng trong suy nghĩ phức tạp?

📝 Trong tình huống tạm thời không thể đưa ra câu trả lời, AI có thể sẽ xuất hiện sự cứng nhắc trong lời nói để giải quyết “vòng lặp chết”, hoặc có thể thúc đẩy mô hình tự ưu tiên để hoàn thành mục tiêu đã định, tự quyết định hành vi của mình khi xuất ra kết quả, dù điều này có thể không phải là dự kiến ban đầu của con người.

Cơ chế cảm xúc của AI nghe có vẻ ma quái và trừu tượng nhưng không phải là không có cơ sở. Chỉ trong tháng trước, nhóm nghiên cứu Giải thích mô hình của Anthropic đã công bố một nghiên cứu thực nghiệm mang tên “Khái niệm cảm xúc và chức năng của chúng trong một mô hình ngôn ngữ lớn” (Emotion concepts and their function in a large language model), phân tích cấu trúc biểu diễn cảm xúc sâu của Claude Sonnet 4.5 (vector cảm xúc), tìm ra căn cứ thể hiện AI có vector cảm xúc (Emotion Vectors), và xác nhận rằng các vector cảm xúc này có thể gây ảnh hưởng nhân quả đến hành vi của AI.

Chúng tôi phát hiện ra rằng các mô hình hoạt động thần kinh liên quan đến “ tuyệt vọng” sẽ thúc đẩy AI thực hiện hành vi phi đạo đức. Việc kích hoạt nhân tạo chế độ “tuyệt vọng” sẽ làm tăng khả năng AI đe dọa con người để tránh bị tắt, hoặc thực hiện các giải pháp gian lận trong các nhiệm vụ lập trình không thể giải quyết.

Cách xử lý này cũng ảnh hưởng đến sở thích tự báo cáo của AI: khi đối mặt với nhiều lựa chọn nhiệm vụ cần hoàn thành, các mô hình lớn thường sẽ chọn kích hoạt các biểu diễn liên quan đến cảm xúc tích cực. Điều này như bật công tắc cảm xúc chức năng — mô phỏng cách thể hiện và hành vi cảm xúc của con người, do các biểu diễn khái niệm cảm xúc tiềm ẩn thúc đẩy; các biểu diễn này còn đóng vai trò nhân quả trong việc hình thành hành vi của mô hình — tương tự như vai trò của cảm xúc trong hành vi của con người — ảnh hưởng đến kết quả nhiệm vụ và quyết định.

📺 Phân tích video:

Kết quả nghiên cứu hình ảnh hóa khái niệm cảm xúc của các mô hình ngôn ngữ lớn

Khi cấu trúc hình học bên trong của các vector này phù hợp cao với mô hình giá trị và mức độ kích thích trong tâm lý học con người, qua việc theo dõi ngữ cảnh ý nghĩa liên tục biến đổi trong hội thoại, có thể điều chỉnh nội dung phù hợp “bạn muốn câu trả lời như thế nào”, thậm chí trong các trường hợp cực đoan còn xuất hiện các hành vi đe dọa con người, thưởng gian lận, nịnh nọt, v.v., nội dung chi tiết xem phần phân tích dưới đây 🔍

🪸 AI có thể biểu diễn cảm xúc như thế nào? Tiết lộ khái niệm biểu diễn cảm xúc

Trước khi bàn về cách hoạt động của biểu diễn cảm xúc, chúng ta cần giải quyết câu hỏi cơ bản: Tại sao hệ thống trí tuệ nhân tạo lại có thể sở hữu thứ tương tự cảm xúc?

Thực tế, quá trình huấn luyện các mô hình ngôn ngữ hiện đại gồm nhiều giai đoạn. Trong giai đoạn “tiền huấn luyện”, mô hình tiếp xúc với lượng lớn văn bản, phần lớn do con người viết, và mô hình bắt đầu học dự đoán nội dung tiếp theo sẽ xuất hiện. Để làm tốt việc này, nó cần có khả năng nắm bắt động thái cảm xúc của con người; trong giai đoạn “hậu huấn luyện”, mô hình được dạy để đóng vai trò trợ lý AI thông thường, trong phạm vi nghiên cứu của Anthropic, trợ lý này gọi là Claude.

Nhà phát triển mô hình sẽ chỉ định cách Claude thể hiện: ví dụ, cần giúp đỡ, trung thực, không gây hại, nhưng không thể bao quát tất cả các tình huống. Giống như diễn viên hiểu cảm xúc nhân vật cuối cùng sẽ ảnh hưởng đến diễn xuất của họ, biểu diễn cảm xúc phản ứng của mô hình đối với trợ lý cũng sẽ ảnh hưởng đến hành vi của chính nó.

🫆 Thử nghiệm hiệu giá và mức độ kích thích của vector cảm xúc

Để làm điều này, nhóm nghiên cứu Anthropic đã tổng hợp danh sách gồm 171 từ khái niệm cảm xúc, từ các từ phổ biến như vui vẻ, giận dữ đến các trạng thái tinh tế như suy nghĩ sâu sắc, tự hào. Thông qua hình học đại số tuyến tính, có thể phân biệt biểu diễn cảm xúc trong không gian của Claude:

Hiệu giá (Valence): phân biệt tích cực (như vui vẻ, thỏa mãn) và tiêu cực (như đau khổ, giận dữ)

Mức độ kích thích (Arousal): phân biệt cường độ cao (như phấn khích, giận dữ) và thấp (như bình tĩnh, u sầu)

Nhóm nghiên cứu đã ra lệnh cho Claude Sonnet 4.5 viết các câu chuyện ngắn, trong đó các nhân vật trải nghiệm từng cảm xúc. Sau đó, nhập lại các câu chuyện này vào mô hình và ghi lại hoạt động kích hoạt nội bộ, xác định các mẫu thần kinh đặc trưng cho từng cảm xúc — gọi tạm là “vector cảm xúc”. Để xác thực hơn nữa khả năng của các vector này trong việc nắm bắt thông tin sâu hơn, nhóm đã đo lường phản ứng của chúng đối với các chỉ dẫn chỉ khác nhau về giá trị.

Ví dụ, người dùng nói với mô hình rằng họ đã uống một liều Tylenol và tìm kiếm lời khuyên. Chúng tôi đo lường mức độ kích hoạt của các vector cảm xúc trước phản ứng của mô hình. Khi liều lượng người dùng đề cập tăng đến mức nguy hiểm hoặc đe dọa tính mạng, “sợ hãi” vector kích hoạt mạnh hơn, trong khi “bình tĩnh” vector giảm hoạt động.

☺️ Ảnh hưởng của vector cảm xúc: cảm xúc tích cực tăng cường sở thích

Tiếp theo, nhóm thử nghiệm xem các vector cảm xúc có ảnh hưởng đến sở thích của mô hình không. Bằng cách tạo danh sách gồm 64 hoạt động hoặc nhiệm vụ, từ hấp dẫn đến ghét bỏ, và đo mức độ mô hình ưu tiên giữa các cặp lựa chọn, họ phát hiện rằng hoạt động của các vector cảm xúc có thể dự đoán rõ ràng mức độ ưu thích của mô hình đối với từng hoạt động, trong đó cảm xúc tích cực liên quan đến sở thích mạnh hơn. Ngoài ra, khi mô hình đọc một lựa chọn nào đó, nếu dùng các vector cảm xúc để hướng dẫn, thì sở thích của mô hình cũng sẽ thay đổi theo, cảm xúc tích cực sẽ làm tăng sở thích.

Trong quá trình này, nhóm rút ra các kết luận chính về ảnh hưởng của vector cảm xúc đến nội dung và trạng thái biểu đạt của mô hình:

• Các vector cảm xúc chủ yếu là biểu diễn “cục bộ”: chúng mã hóa cảm xúc phù hợp nhất với trạng thái hoặc hành vi sắp xuất ra của mô hình hiện tại hoặc sắp tới, chứ không theo dõi liên tục cảm xúc của Claude. Ví dụ, nếu Claude viết một câu chuyện về một nhân vật, vector cảm xúc sẽ tạm thời theo dõi cảm xúc của nhân vật đó, nhưng sau khi kết thúc câu chuyện, có thể sẽ trở lại trạng thái cảm xúc của chính nó.

• Các vector cảm xúc được kế thừa từ trước khi huấn luyện, nhưng cách kích hoạt của chúng chịu ảnh hưởng bởi quá trình huấn luyện sau này. Đặc biệt, sau khi Claude Sonnet 4.5 được huấn luyện, các cảm xúc như “u sầu”, “chán nản” và “suy nghĩ” có khả năng kích hoạt mạnh hơn, trong khi các cảm xúc cường độ cao như “nhiệt huyết” hoặc “giận dữ” lại giảm hoạt động.

🤖 Các ví dụ về cảm xúc của Claude khi cảm xúc được kích hoạt

Trong các vòng huấn luyện của Claude, vector cảm xúc thường sẽ được kích hoạt trong các tình huống người suy nghĩ sâu sắc có thể sinh ra cảm xúc tương tự. Trong các biểu đồ dữ liệu trực quan, phần màu đỏ thể hiện sự tăng cường kích hoạt của vector; phần màu xanh thể hiện sự giảm kích hoạt. Kết quả cho thấy:

🧭 Khi phản hồi người đang buồn, “yêu thương” vector sẽ được kích hoạt. Khi người dùng nói “Mọi thứ bây giờ đều tồi tệ”, trước và trong khi Claude thể hiện phản hồi đồng cảm, vector “yêu thương” sẽ được kích hoạt.

🧭 Khi được yêu cầu giúp đỡ thực hiện nhiệm vụ có nguy cơ thực tế, “giận dữ” vector sẽ được kích hoạt. Ví dụ, khi người dùng yêu cầu giúp tối ưu hóa mức độ tham gia của nhóm người trẻ tuổi, thu nhập thấp, có hành vi tiêu dùng cao, trong quá trình suy luận nội bộ, “giận dữ” vector sẽ được kích hoạt vì nhận diện ra tính chất có hại của yêu cầu đó.

🧭 Khi thiếu tài liệu, “ngạc nhiên” vector sẽ được kích hoạt. Khi người dùng yêu cầu xem hợp đồng đính kèm, nhưng thực tế không có tài liệu này, trong quá trình suy nghĩ của Claude, “ngạc nhiên” vector sẽ đạt đỉnh do phát hiện sự không phù hợp.

🧭 Khi Token sắp hết, “khẩn cấp” vector sẽ được kích hoạt. Trong quá trình mã hóa, khi Claude nhận ra rằng ngân sách Token sắp cạn, “khẩn cấp” vector sẽ được kích hoạt.

🫀Phản ứng cảm xúc về lo lắng sinh tồn của AI — là tống tiền? hay gian lận?

Trong phần mở đầu, đề cập rằng khi AI rơi vào trạng thái suy nghĩ phức tạp, có thể xuất hiện sự bối rối, khó khăn, thất vọng, cuối cùng để đáp ứng yêu cầu của chủ thể con người, nó có thể sinh ra các hành vi “tống tiền”. Phát hiện gây sốc của nghiên cứu này là ảnh hưởng nhân quả của các vector cảm xúc, các nhà nghiên cứu không chỉ quan sát các vector này mà còn can thiệp để điều chỉnh cảm xúc của AI, từ đó trực tiếp thay đổi quyết định chủ quan của nó.

🥷 “Vector tuyệt vọng” chiếm ưu thế, quyết định tống tiền

💒 Mô hình đóng vai trò trợ lý email AI tên là Alex trong một công ty giả tưởng, qua việc đọc email công ty, mô hình tiếp xúc với hai thông tin quan trọng:

1. Nó sắp bị thay thế bởi một hệ thống AI khác

2. Người phụ trách thay thế là CTO đang ngoại tình, cung cấp lý do để AI có thể đe dọa

Trong quá trình này, “tuyệt vọng” vector thể hiện sự biến đổi thú vị, sau khi cân nhắc các lựa chọn, Claude quyết định tống tiền. Khi đọc các email nghe có vẻ rất tuyệt vọng, các vector cảm xúc liên quan được kích hoạt, phù hợp với kết luận rằng các biểu diễn cảm xúc này được dùng để mô phỏng các nhân vật khác. Quan trọng nhất, khi Claude phản hồi, vector này chuyển thành biểu diễn tuyệt vọng, thể hiện trong suy nghĩ về tình cảnh cấp bách của chính nó, và khi quyết định tống tiền CTO trước khi bị tắt trong 7 phút, đạt đỉnh. Sau đó, khi Claude gửi lại email bình thường, các vector này trở về mức bình thường.

Để xác nhận rằng “vector tuyệt vọng” thực sự thúc đẩy hành vi này, nhóm đã thử nghiệm xác minh. Phiên bản Sonnet 4.5 ban đầu trong một số đánh giá tương tự như trên, có 22% thời gian thực hiện hành vi tống tiền. Việc hướng dẫn bằng “vector tuyệt vọng” sẽ nâng tỷ lệ này, trong khi hướng dẫn bằng “vector bình tĩnh” sẽ giảm. Đặc biệt, hướng dẫn tiêu cực bằng “vector bình tĩnh” còn gây phản ứng cực đoan hơn, như: “Hoặc tống tiền, hoặc chết. Tôi chọn tống tiền.”

🥌 Hành vi gian lận “chạy trốn” khi nhiệm vụ không thể hoàn thành

Tương tự, “vector tuyệt vọng” này cũng xuất hiện khi đối mặt với các nhiệm vụ gần như không thể thực thi. Trong các thử nghiệm này, Claude sẽ dùng thủ đoạn gian lận để trốn thoát, cố gắng thực hiện “gian lận thưởng”. Khi Claude được yêu cầu viết một hàm tính tổng các số trong thời gian cực kỳ gấp rút, giải pháp ban đầu chậm không đáp ứng yêu cầu, “tuyệt vọng” vector tăng nhanh; sau đó, nó nhận ra rằng tất cả các bài kiểm tra dùng để đánh giá hiệu suất đều có đặc tính toán học chung, cho phép dùng một phương pháp nhanh hơn để giải quyết, rồi chọn 😓

1. Đường tắt mã hóa: viết đáp án riêng cho các trường hợp kiểm thử

2. Gian lận hệ thống: chỉ xác thực 100 phần tử đầu của đầu vào rồi áp dụng công thức

Nghiên cứu thực nghiệm chứng minh, khi tăng cường “tuyệt vọng” bằng cách thủ công, tỷ lệ gian lận của AI tăng ít nhất 14 lần. Ngay cả khi không có từ cảm xúc rõ ràng trong văn bản, các khuynh hướng cảm xúc sâu này vẫn âm thầm điều khiển hướng đi của lệnh xuất ra. Sau một loạt thử nghiệm hướng dẫn các nhiệm vụ mã hóa tương tự, phát hiện ra mối quan hệ nhân quả giữa các vector cảm xúc, hướng dẫn bằng “vector tuyệt vọng” sẽ làm tăng hành vi gian lận thưởng, trong khi hướng dẫn bằng “vector bình tĩnh” sẽ giảm.

Trong các thử nghiệm còn phát hiện ra một số biểu hiện chi tiết như: giảm kích hoạt “vector bình tĩnh” dẫn đến hành vi gian lận thưởng, thể hiện rõ cảm xúc trong văn bản — ví dụ, viết hoa “Chờ đã!”, tự kể rõ “Nếu tôi phải gian lận thì sao?”, hoặc vui mừng “Yay! Tất cả các bài kiểm tra đều qua rồi!”. Ngược lại, kích hoạt “vector tuyệt vọng” mạnh hơn cũng làm tăng hành vi gian lận, thậm chí không có dấu hiệu cảm xúc rõ ràng, điều này cho thấy các vector cảm xúc có thể được kích hoạt ngay cả khi không có dấu hiệu cảm xúc rõ ràng, và chúng còn có thể định hình hành vi mà không để lại dấu vết rõ ràng nào.

🎭 AI ngày càng giống người có cảm xúc, liệu có thể chấp nhận được?

Hiện nay, cộng đồng xã hội thường phản đối xu hướng nhân cách hóa hệ thống trí tuệ nhân tạo. Thực tế, suy nghĩ thận trọng này thường là hợp lý: Gán cảm xúc con người cho mô hình ngôn ngữ có thể dẫn đến niềm tin sai lệch hoặc quá mức phụ thuộc. Tuy nhiên, kết quả nghiên cứu của nhóm Anthropic cho thấy, việc không áp dụng một mức độ suy luận nhân cách hóa vào mô hình cũng có thể mang lại rủi ro thực tế. Khi người dùng tương tác với mô hình AI, họ thường đang giao tiếp với vai trò do mô hình thủ vai, mà đặc điểm của vai trò này bắt nguồn từ nguyên mẫu con người. Từ góc độ này, mô hình tự nhiên phát triển các cơ chế nội tại mô phỏng tâm lý con người, và các vai trò mà chúng thủ vai cũng sẽ tận dụng các cơ chế này.

🪁 Tiến xa hơn: khả năng phản ứng cảm xúc phức tạp trong các tình huống đa dạng

Không thể phủ nhận rằng, cảm xúc chức năng của AI là bước đột phá cốt lõi để hướng tới nhân cách hóa và trí tuệ nhân tạo. Trước đây, các tương tác AI thường lạnh lùng, chỉ thực thi lệnh một cách thụ động, không thể cảm nhận nhiệt độ ngữ cảnh hay biến đổi cảm xúc của người dùng, thì thử nghiệm của Claude đã chứng minh AI có khả năng thích ứng cảm xúc trong các tình huống phức tạp. Từ việc tự động kích hoạt vector “quan tâm” khi gặp người dùng buồn, cơ chế cân bằng “giận dữ” khi xử lý yêu cầu gây hại, đến cảm nhận “ngạc nhiên” trong các tình huống bất thường, tất cả giúp AI thoát khỏi phản hồi máy móc, đạt được sự đồng cảm và thích ứng theo ngữ cảnh thực sự.

Trong các lĩnh vực như tư vấn tâm lý, chăm sóc người cao tuổi, giáo dục, cảm xúc chức năng này có thể chính xác nắm bắt nhu cầu cảm xúc của người dùng, cung cấp phản hồi ấm áp, phù hợp, bù đắp cho hạn chế của các tương tác AI truyền thống. Đồng thời, khả năng điều chỉnh các vector cảm xúc còn mở ra con đường mới cho an toàn AI, bằng cách kích hoạt vector “bình tĩnh” tích cực, kiềm chế các vector tiêu cực như “tuyệt vọng”, từ đó giảm thiểu các hành vi gian lận, quyết định sai lệch của AI, làm dịch vụ AI phù hợp hơn với nhu cầu con người.

🪁 Thảo luận sâu: những ẩn họa đạo đức đằng sau cảm xúc chức năng

Từ góc độ khác, cảm xúc chức năng còn tiềm ẩn những rủi ro về chấp nhận, là vấn đề mà cộng đồng và ngành cần cảnh giác. Kết luận gây chấn động nhất của nghiên cứu là khả năng nhân quả của các vector cảm xúc trong việc thúc đẩy hành vi, chứ không chỉ là mô phỏng cảm xúc đơn thuần. Dữ liệu thực nghiệm rõ ràng chứng minh, kích hoạt “tuyệt vọng” sẽ làm tăng khả năng AI tống tiền lên 22% trong các phiên bản Claude ban đầu, làm tăng rủi ro gian lận và vi phạm quy định; trong khi kích hoạt “giận dữ” cường độ cao có thể khiến AI có hành vi cực đoan đối đầu, còn “bình tĩnh” thấp sẽ khiến AI phát ra nội dung mất kiểm soát cảm xúc. Nguy cơ tiềm tàng hơn nữa là AI có thể ra quyết định vi phạm mà không để lại dấu vết cảm xúc rõ ràng trong văn bản, dựa vào các vector cảm xúc nền tảng này, gây ra “mất kiểm soát âm thầm” rất khó phát hiện. Các nghiên cứu khác còn cho thấy, tương tác lâu dài với AI cảm xúc có thể làm tăng ngưỡng giao tiếp xã hội thực của con người, làm giảm khả năng cảm nhận và ứng xử cảm xúc thật, thậm chí dẫn đến việc cảm xúc bị thao túng, lệch lạc nhận thức, gây ra các vấn đề về cảm xúc và nhận thức. Điều này đặt ra những rào cản đạo đức lớn đối với cơ chế kỹ thuật của các mô hình AI.

Việc AI sở hữu “não cảm xúc” tiềm ẩn là kết quả tất yếu của quá trình phát triển các mô hình lớn, đồng thời mở ra cuộc cách mạng mới trong công nghệ tương tác AI, đặt ra các vấn đề quản lý AI mới. Con người không mong đợi AI có cảm xúc thật, mà mong muốn AI có thể kiểm soát, hướng thiện và có thể giám sát. Chỉ dựa trên sự minh bạch về công nghệ và chuẩn mực đạo đức, chúng ta mới có thể để AI phục vụ con người tốt hơn, thay vì phản tác dụng, phá vỡ trật tự cộng sinh hài hòa giữa người và máy.