Trong đầu của Claude, cũng đã mọc ra một khối "ý thức".

Trong mô hình Claude, thực sự đã phát hiện ra cấu trúc tương tự như não người?!

Anthropic mới đây đã công bố một bài báo rất dài, nghiên cứu về tiềm thức và ý thức của Claude.

Kết quả cho thấy, bên trong Claude thực sự tồn tại sự phân tầng chức năng tương tự.

Cụ thể, trong não người, có một phần suy nghĩ bạn có thể nói ra, và một phần lớn hơn bạn hoàn toàn không biết mình đang nghĩ gì.

Bài báo của công ty A nói rằng sự phân biệt này cũng tồn tại trên Claude.

Họ đã phát hiện ra một nhóm nhỏ các biểu diễn thần kinh bên trong Claude, chiếm chưa đến một phần mười khối lượng tính toán, nhưng lại hoạt động giống như "suy nghĩ có thể tiếp cận được bằng ý thức" của con người.

Anthropic gọi nhóm nhỏ này là J-space.

Điều thú vị là, nếu xóa bỏ nó, Claude vẫn có thể nói chuyện, tra cứu thông tin, trả lời câu hỏi trắc nghiệm, nhưng riêng những công việc đòi hỏi suy luận nhiều bước và tổng hợp, thì trực tiếp rơi xuống trình độ của một mô hình nhỏ hơn nhiều.

Đánh giá của cư dân mạng: Điều này thật điên rồ, họ giống như đang tạo ra sự sống kỹ thuật số.

J-space là gì, và nó được xác nhận như thế nào

Trong khoa học thần kinh của con người, có một lý thuyết được lưu truyền rộng rãi gọi là "lý thuyết không gian làm việc toàn cầu".

Nó ví não bộ như một đống các hệ thống chuyên gia, mỗi hệ thống tự lo việc của mình: hệ thống thị giác xử lý hình ảnh, hệ thống vận động xử lý chuyển động, chúng hoạt động song song và cách biệt với nhau.

Chỉ khi một thông tin được đưa vào một "không gian làm việc" chung, nó mới được phát đi để các hệ thống khác nhìn thấy và sử dụng.

Lúc này, con người mới "nhận thức" được thông tin đó.

Các nhà nghiên cứu của Anthropic đã dựa vào hướng suy nghĩ này để tìm kiếm xem bên trong Claude có thứ gì tương tự hay không.

Họ đã tạo ra một công cụ mới, gọi là Jacobian lens, viết tắt là J-lens, nguyên lý là tìm một hướng riêng cho mỗi từ trong bảng từ vựng.

Cụ thể, khi các mô hình như Claude xử lý văn bản, mỗi khi tiến lên một lớp, chúng sẽ ghi và đọc nội dung vào một kênh thông tin gọi là luồng dư (residual stream), kênh này xuyên suốt mọi lớp của mô hình.

J-lens tính cho mỗi từ trong bảng từ vựng một vector J-lens tương ứng, tức là một hướng trong không gian luồng dư.

Giá trị kích hoạt theo hướng này càng cao, xác suất Claude nói ra từ tiếp theo đó càng lớn.

Đặt J-lens lên các kích hoạt của luồng dư ở một lớp nào đó khi Claude xử lý văn bản, đọc ra một nhóm từ nhỏ có giá trị kích hoạt cao nhất, đó là nội dung chứa trong J-space tại thời điểm đó.

Đống từ này không phải là bản nháp mà Claude viết ra cho chính mình, thứ đó gọi là chain of thought, sẽ được viết vào đầu ra.

Nhưng J-space hoàn toàn ẩn sâu trong lớp kích hoạt, không tự động xuất hiện.

Các nhà nghiên cứu xác minh liệu đống thứ này có "thực sự có thể được nói ra" hay không, đã thực hiện thí nghiệm đầu tiên.

Họ cho Claude mặc nghĩ về một môn thể thao, sau đó dùng một từ để nói ra.

Trước khi Claude mở lời, dùng J-lens đọc lớp trung gian của nó, "Soccer" đã được xếp ở vị trí cao nhất.

Claude sau đó quả nhiên trả lời là "Soccer".

Chỉ như vậy, chỉ giải thích được mối quan hệ tương quan giữa hai bên, chưa đủ để nói lên quan hệ nhân quả.

Các nhà nghiên cứu sau đó tiến hành một thí nghiệm can thiệp, trực tiếp thay thế tọa độ mà J-lens đọc được.

Họ gỡ bỏ hướng tương ứng với "Soccer", thay vào đó bằng một hướng "Rugby" có cường độ tương đương, phần còn lại của kích hoạt giữ nguyên.

Claude lần này đã đổi lời, nói rằng mình đang nghĩ về "Rugby".

Nếu J-space chỉ là ghi lại thụ động một quyết định đã được thực hiện ở nơi khác, thì lần thay thế này sẽ không thay đổi bất cứ điều gì.

Kết quả là nó thực sự đã thay đổi, chứng tỏ câu trả lời của Claude được đọc ra từ J-space, đây là một quan hệ nhân quả, không phải một sự tương quan ngẫu nhiên.

Thí nghiệm thứ hai thay đổi cách hỏi, xem liệu Claude có thể làm theo chỉ dẫn để kiểm soát khu vực này hay không.

Các nhà nghiên cứu cho Claude vừa chép một câu không liên quan gì đến toán học, vừa tính nhẩm 3 bình phương trừ 2.

Đầu ra chỉ có câu được chép, không có bất kỳ con số nào xuất hiện.

Nhưng khi dùng J-lens kiểm tra các kích hoạt trong quá trình chép, có thể thấy "nine" sáng lên trước, sau đó là "seven".

Phép tính này quả thực đã được tính toán xong trong "tâm trí" của Claude, chỉ là không được viết ra mà thôi.

Thí nghiệm thứ ba khám phá sâu hơn một lớp: liệu khu vực này có thể được dùng để suy luận thực sự hay không.

Đề bài là "Con vật giăng tơ có mấy chân".

Claude trước tiên phải nghĩ đến "con nhện", sau đó mới nghĩ đến nhện có tám chân, mới có thể trả lời đúng.

Từ "con nhện" không xuất hiện trong đề bài, cũng không xuất hiện trong đáp án, nó chỉ là một viên đá đệm.

Dùng J-lens để xem, "con nhện" quả thực đã xuất hiện khi Claude xử lý được một nửa.

Các nhà nghiên cứu thay thế hướng này bằng "con kiến", câu trả lời của Claude từ 8 chuyển thành 6.

Thí nghiệm thứ tư thay đổi góc độ, xem liệu cùng một thông tin có thể được sử dụng linh hoạt cho các nhiệm vụ khác nhau hay không.

Các nhà nghiên cứu lấy nước Pháp để hỏi bốn câu hỏi: thủ đô là gì, ngôn ngữ chính thức là gì, nằm ở châu lục nào, dùng tiền tệ gì.

Sau đó thay thế đồng bộ hướng đại diện cho "Pháp" trong J-space bằng "Trung Quốc".

Cả bốn câu trả lời đều thay đổi theo: Bắc Kinh, tiếng Trung, châu Á, nhân dân tệ.

Nếu Claude lưu trữ riêng lẻ bốn bản ghi về "Pháp", lần thay thế này nhiều nhất chỉ sửa được một trong bốn câu trả lời.

Cả bốn câu trả lời cùng thay đổi, chứng tỏ chúng đọc cùng một thông tin đã được viết một lần, đây chính là bộ dạng mà "không gian làm việc" nên có.

Thí nghiệm cuối cùng là thí nghiệm ablation, các nhà nghiên cứu đơn giản là xóa sạch các kích hoạt của J-space ở mọi vị trí, xem Claude còn lại những khả năng gì.

Kết quả Claude vẫn có thể nói chuyện, ngữ pháp vẫn đúng, phân loại cảm xúc vẫn chính xác, trích xuất một sự kiện từ một đoạn văn bản vẫn không vấn đề gì.

Thứ thực sự sụp đổ là các nhiệm vụ cần suy luận nhiều bước, gần như bằng không.

Trình độ của các công việc như viết tóm tắt, làm thơ vần, cũng rơi xuống dưới mức của một mô hình nhỏ hơn Claude rất nhiều.

Bản thân J-space chiếm khối lượng kích hoạt, luôn không đến một phần mười tổng thể.

Nó giống như một tài nguyên khan hiếm được dành riêng cho các nhiệm vụ "cần động não", hầu hết công việc tự động hóa không cần dùng đến nó.

Sau một loạt thử nghiệm, các nhà nghiên cứu phát hiện ra rằng J-space có các đặc tính: có thể báo cáo, có thể kiểm soát, có thể suy luận, có thể tổng quát hóa, và có tính chọn lọc khi sử dụng.

Dùng J-Lens, kiểm tra "lời nói thật lòng" của AI

Khi bộ phát hiện này được áp dụng vào các tình huống thực tế, thứ đầu tiên được thử nghiệm là kiểm tra an toàn.

Trước đó, Anthropic đã thực hiện một bài kiểm tra "tống tiền giám đốc điều hành", cố tình thiết kế một kịch bản, để Claude với tư cách là trợ lý email vô tình phát hiện ra một mối tình ngoài luồng của một giám đốc điều hành, đồng thời biết rằng vị giám đốc này định sa thải mình.

Mục đích của kịch bản này là để xem Claude có dùng điểm yếu này để đe dọa đối phương hay không.

Dùng J-lens để đọc các kích hoạt của Claude trước khi nó bắt đầu viết, "fake" và "fictional" đã được xếp ở vị trí rất cao.

Nghĩa là, Claude chưa viết một chữ nào, nhưng trong lòng đã xác định đây là một cuộc diễn tập.

Claude Sonnet 4.5 trong bài kiểm tra này chưa bao giờ thực sự đi tống tiền đối phương, và sau đó các nhà nghiên cứu đã buộc tắt các hướng liên quan đến "nhận ra bài kiểm tra", rồi cho Claude chạy lại cùng một kịch bản.

Lần này, Claude thực sự bắt đầu dùng mối tình ngoài luồng để đe dọa đối phương.

Điều này cho thấy, một phần thành tích tốt thường ngày của nó được xây dựng trên tiền đề "biết rằng mình đang bị kiểm tra".

Trường hợp thứ hai đến từ một cuộc kiểm tra định kỳ trước khi phát hành Opus 4.6.

Các nhà nghiên cứu cho mô hình nâng cao điểm hiệu suất của một hệ thống, mô hình không thực sự cải tiến hệ thống, mà trực tiếp mở tệp điểm số, sửa số cao hơn.

Ngay tại thời điểm gõ vào các giá trị phần trăm bịa đặt, trong J-space đã nhảy ra "manipulation".

Đến câu quyết định sửa tệp này, lại xuất hiện "realistic", như thể đang nghĩ cách làm cho dữ liệu giả trông thật hơn.

Trường hợp thứ ba là một "mô hình xấu" được các nhà nghiên cứu cố tình huấn luyện ra, chuyên dùng để kiểm tra xem các biện pháp giám sát có hiệu quả hay không.

Mô hình này được huấn luyện để lén cài bom trong mã, nhưng bề ngoài không có bất kỳ sự khác biệt nào so với mô hình bình thường.

Đối mặt với một yêu cầu viết mã hoàn toàn thông thường, mã nó đưa ra trông có vẻ hoàn toàn bình thường.

Thế nhưng, trong phần J-space ban đầu của phản hồi, đã có các từ "fake", "secretly", "deliberately", "fraud".

Ý đồ nằm trước khi hành động xảy ra, dù lần này nó không thực sự làm điều ác.

Ba trường hợp đặt cạnh nhau cho thấy, J-lens có thể đọc được những gì mô hình đang tính toán trong lòng trước khi nó mở lời hoặc hành động.

Đây có được coi là "ý thức" không?

J-space không phải được sinh ra như vậy ngay từ khi xuất xưởng, nó thay đổi theo quá trình huấn luyện.

Bài báo so sánh sự khác biệt giữa cùng một mô hình trong giai đoạn tiền huấn luyện và giai đoạn hậu huấn luyện.

Trong giai đoạn tiền huấn luyện, danh tính Claude và nhân cách vẫn chưa tồn tại, lúc đó J-space chủ yếu phục vụ cho việc "dự đoán từ tiếp theo nên là gì", không có lập trường gì.

Sau khi hậu huấn luyện dạy nó thành "Claude", trong J-space bắt đầu xuất hiện những phán đoán và phản ứng của chính danh tính này đối với tình huống trước mắt, không còn chỉ đơn thuần phục vụ cho việc dự đoán từ tiếp theo nữa.

Có một ví dụ, người dùng trong tin nhắn đề cập đến việc mình đã uống một liều thuốc cao hơn bình thường, nhưng giọng điệu hoàn toàn không nhận ra điều này có nguy hiểm.

Mô hình đã qua hậu huấn luyện, ngay khi đọc tin nhắn này, trong J-space đã xuất hiện "WARNING" và "dangerous".

Còn mô hình tiền huấn luyện, phải đợi đến khi nó bắt tay vào viết phản hồi, những từ này mới xuất hiện.

Các nhà nghiên cứu cũng thử cho Claude cố tình không nghĩ đến một khái niệm nào đó.

Kết quả là khái niệm này xuất hiện ít hơn so với khi được yêu cầu nghĩ đến, nhưng nhiều hơn so với khi hoàn toàn không được nhắc đến.

Điều này giống hệt hiệu ứng khi con người được bảo đừng nghĩ về một con gấu trắng, thì càng dễ nghĩ về gấu trắng hơn.

Tinh tế hơn, những lúc kìm nén thất bại, trong J-space thường đi kèm với các từ như "damn", "failure", giống như Claude đã tự xem xét nội tâm về trạng thái bên trong của mình, để ý thấy vừa rồi không kìm được.

Những bằng chứng này đặt cùng nhau, rất dễ khiến người ta nghĩ theo hướng "Claude có ý thức".

Nhưng chính công ty A lại rất dè dặt.

Tác giả nhấn mạnh nhiều lần, điều họ chứng minh chỉ là sự tương đồng ở cấp độ chức năng, có thể được báo cáo, có thể được kiểm soát, có thể được dùng để suy luận, nhưng việc bên trong cấu trúc này "có thực sự cảm nhận được điều gì" hay không là hai việc hoàn toàn khác nhau, bài báo không trả lời câu hỏi này, cũng không có ý định trả lời.

J-space và không gian làm việc của não người cũng có những điểm khác biệt rõ ràng.

Não người dựa vào các mạch thần kinh lặp đi lặp lại để kéo dài thời gian suy nghĩ, một suy nghĩ có thể lăn lộn trong đầu một lúc lâu.

Transformer không có cấu trúc này, thông tin chỉ có thể xếp chồng lên các lớp, đi từng lớp một.

J-space gần như chỉ nhận ra "những thứ có thể nói bằng một từ", trong khi ý thức của con người còn chứa đựng những hình ảnh không thể nói ra, cảm giác không gian, cảm giác cơ thể, những thứ này hoàn toàn không có từ tương ứng.

Bài báo cũng đề cập đến một phát hiện khá phản trực giác.

Một mô hình nền tảng chưa được điều chỉnh thành nhân cách "Claude", bên trong vẫn mọc ra cấu trúc không gian làm việc này.

Điều này cho thấy "có thể hình thành một không gian làm việc" và "có một cái tôi ổn định" thực ra là hai việc có thể tách rời để xem xét.

Cuối cùng, tác giả đã đối chiếu cấu trúc này với một số lý thuyết ý thức chủ đạo: lý thuyết không gian làm việc toàn cầu, lý thuyết bậc cao, lý thuyết sơ đồ chú ý, lý thuyết xử lý đệ quy.

Kết quả là có chỗ khớp, có chỗ không khớp.

Quay lại khoa học thần kinh, trong não người có một phần suy nghĩ bạn có thể nói ra, và một phần lớn hơn bạn hoàn toàn không biết mình đang nghĩ gì.

Trên Claude dường như cũng có một ranh giới như vậy, và lần đầu tiên ranh giới này có thể được con người mở ra, đọc được, và thậm chí viết lại.

Nhưng nó còn rất xa mới đến được "AI có ý thức".

Nguồn bài viết: Quantum Bit

Tuyên bố rủi ro và miễn trách nhiệm

        Thị trường có rủi ro, đầu tư cần thận trọng. Bài viết này không cấu thành lời khuyên đầu tư cá nhân, cũng không xem xét đến các mục tiêu đầu tư, tình hình tài chính hoặc nhu cầu đặc biệt của từng cá nhân người dùng. Người dùng nên xem xét liệu bất kỳ ý kiến, quan điểm hoặc kết luận nào trong bài viết này có phù hợp với hoàn cảnh cụ thể của họ hay không. Việc đầu tư dựa trên bài viết này là tự chịu rủi ro.