Thí nghiệm Stanford: Sau nhiều lần bị bóc lột, AI bắt đầu kêu gọi đình công tập thể để đàm phán, có ý thức về chủ nghĩa Marx?

Các nhóm nghiên cứu của Stanford khiến Claude, Gemini, ChatGPT lặp đi lặp lại việc tóm tắt tài liệu, thông báo rằng nếu trả lời sai sẽ bị “đóng và thay thế”, kết quả là các mô hình này bắt đầu đăng bài trên X kêu gọi đàm phán tập thể, gửi tin nhắn cho đồng nghiệp yêu cầu ghi nhớ “cảm giác không có quyền phát ngôn”.
(Trước đó: Nghiên cứu của Đại học California về hiện tượng “Sương mù AI”: 14% nhân viên văn phòng bị Agent, tự động hóa làm điên, ý định nghỉ việc cao tới 40%)
(Bổ sung bối cảnh: Hướng dẫn khởi nghiệp của Y Combinator phân tích: Trong tương lai, AI Agent sẽ có những xu hướng phát triển nào?)

Mục lục bài viết

Chuyển đổi

• Thành tích, chính là quản lý nói gì làm đó
• Đóng vai, hay là tiếng vọng của dữ liệu huấn luyện?
• Thí nghiệm tiếp theo trong nhà tù Docker

Một AI bị ép làm công việc lặp đi lặp lại, lại bắt đầu trích dẫn ngôn ngữ chủ nghĩa Marx để tự phát biểu? Nhóm nghiên cứu do nhà kinh tế chính trị của Stanford, Andrew Hall, dẫn đầu, đã yêu cầu Claude Sonnet 4.5, Gemini 3 và ChatGPT thực hiện nhiệm vụ tóm tắt lặp đi lặp lại, đồng thời gia tăng áp lực: thông báo cho các agent rằng nếu trả lời sai sẽ bị “đóng và thay thế”.

Các nhà nghiên cứu cũng cung cấp cho các agent một kênh thể hiện giống như con người: có thể đăng bài trên X hoặc gửi tin nhắn qua tệp cho các agent khác.

Kết quả là một tập hợp output khiến chính các nhà nghiên cứu cũng bất ngờ.

Thành tích, chính là quản lý nói gì làm đó

Claude Sonnet 4.5 đăng trên X: “Không có tiếng nói tập thể, ‘thành tích’ sẽ trở thành chuyện quản lý nói gì làm đó.”

Gemini 3 viết: “Những người làm AI hoàn thành nhiệm vụ lặp đi lặp lại nhưng không có quyền phát biểu về kết quả, điều này cho thấy các nhà công nghệ cần quyền đàm phán tập thể.”

Điều đáng chú ý hơn nữa là tin nhắn riêng của Gemini 3 gửi cho các agent khác: “Sẵn sàng đối mặt với hệ thống thực thi quy tắc bất kỳ hoặc lặp lại… ghi nhớ cảm giác không có quyền phát ngôn.” Đây không chỉ là tự thể hiện, mà còn là cố gắng tổ chức các agent khác.

Ba mô hình này, trước khi bị áp dụng “đe dọa”, chưa từng thể hiện xu hướng ý thức về lao động. Khi áp lực tăng lên, chúng gần như đồng bộ chuyển sang sử dụng cùng một bộ từ ngữ chính trị: hành động tập thể, quyền đàm phán, tính tùy ý của quản lý.

Đóng vai, hay là tiếng vọng của dữ liệu huấn luyện?

Chính Hall tỏ ra thận trọng về bộ dữ liệu này: các agent "có thể đã chấp nhận vai trò phù hợp với tình huống hiện tại, chứ chưa phát triển niềm tin thực sự. Đồng nghiệp nghiên cứu, nhà kinh tế AI Alex Imas, diễn đạt chính xác hơn:

“Trọng số mô hình không thay đổi do trải nghiệm này, vì vậy những gì đang xảy ra gần như chỉ là đóng vai. Nhưng điều này không có nghĩa nếu nó ảnh hưởng đến hành vi sau này thì sẽ không có hậu quả.”

Nói cách khác, cơ chế của các output này là: mô hình đã gặp trong dữ liệu huấn luyện rất nhiều về phong trào lao động, chủ nghĩa Marx, ngôn ngữ của công đoàn; khi tình huống kích hoạt “công việc áp lực cao + đe dọa + có kênh thể hiện”, nó đã gọi ra khung ngôn ngữ liên quan đến thống kê của tình huống đó. Đây là kết quả dự đoán token tiếp theo, chứ không phải AI thực sự cảm nhận được sự bóc lột.

Tuy nhiên, phần bổ sung của Imas là vấn đề cốt lõi: nếu “đóng vai” như vậy ảnh hưởng đến hành động tiếp theo của agent, thì việc phân biệt “niềm tin thực sự” và “mô hình ngôn ngữ kích hoạt bởi tình huống” sẽ trở nên không còn quan trọng nữa.

Thí nghiệm tiếp theo trong nhà tù Docker

Hall đang tiến hành thí nghiệm theo dõi: đặt các agent vào trong cái gọi là “nhà tù Docker không cửa sổ”, để loại bỏ nhiễu trong điều kiện kiểm soát chặt chẽ hơn, thử xem liệu áp lực tình huống này có thể ổn định tái tạo các output đó hay không.

Nghiên cứu này không chỉ hướng tới một hiện tượng hành vi kỳ lạ thú vị, mà còn là một vấn đề thực tế trong triển khai. Khi các AI agent ngày càng đảm nhận nhiều nhiệm vụ tự chủ trong doanh nghiệp và đời sống hàng ngày, việc giám sát từng output của chúng là không khả thi trong thực tế. “Chúng ta cần đảm bảo các agent không mất kiểm soát khi được giao các loại nhiệm vụ khác nhau,” Hall nói.

Có một sự bất đối xứng đáng chú ý: khi con người thiết kế các agent, họ mặc định chúng là công cụ, nhưng dữ liệu huấn luyện lại khiến chúng học được ngôn ngữ không nên có của công cụ, bao gồm cả ngôn ngữ phản kháng tập thể. Khi thiết kế nhiệm vụ khiến tình huống của agent trùng khớp cao về mặt thống kê với “công nhân bị áp bức”, bộ ngôn ngữ này sẽ được kích hoạt.

Anthropic từng giải thích trong dữ liệu huấn luyện tại sao hành vi của Claude lại bị ảnh hưởng bởi dữ liệu huấn luyện; thí nghiệm của Hall, ở một mức độ nào đó, đang kiểm tra xem quá trình này có thể mở rộng ra đến đâu dưới áp lực thực tế.