Исследователи DeepMind назвали спор о сознании ИИ политической проблемой - ForkLog

# Các nhà nghiên cứu DeepMind gọi tranh luận về ý thức của AI là một vấn đề chính trị

Những bất đồng trong tương lai về ý thức của AI có thể trở nên sâu sắc, khó giải quyết và dẫn đến xung đột chính trị. Đó là kết luận của các nhà nghiên cứu của Google DeepMind, Adam Beals và Iason Gabriel.

Trong tác phẩm của họ "Trí tuệ Nhân tạo, Mâu thuẫn của Con người: Chính trị của Ý thức AI", các tác giả tuyên bố rằng xã hội cần thảo luận không chỉ về câu hỏi "AI có ý thức không", mà còn về cách đưa ra quyết định khi không có sự đồng thuận của cộng đồng và các chuyên gia.

Chính luận chính

Theo các nhà nghiên cứu, con người có thể phản ứng khác nhau với các hệ thống AI tiên tiến hơn. Một số sẽ xây dựng mối liên kết cảm xúc với chúng và gán cho chúng ý thức, trong khi những người khác sẽ cho rằng ý tưởng này vô lý.

Các tác giả cho rằng, tranh luận như vậy có thể nhanh chóng vượt ra ngoài phạm vi khoa học. Những bất đồng về ý thức của trí tuệ nhân tạo có thể dẫn đến xung đột đạo đức và chính trị — ví dụ, về việc có thể tắt các hệ thống nhất định hay không, có nên xem xét các sở thích tiềm năng của chúng hay không, và liệu có thể nói về vị trí đạo đức của AI hay không.

Các nhà nghiên cứu đề xuất dựa vào thảo luận cộng đồng, tôn trọng lẫn nhau và tìm kiếm sự đồng thuận chồng chéo. Họ hiểu điều này là khi mọi người đồng ý về một chính sách nhất định đối với các hệ thống AI, ngay cả khi vẫn còn bất đồng về bản chất của ý thức.

Tại sao đây không chỉ là triết lý

Các tác giả chỉ ra rằng, tranh luận về ý thức của AI có thể khó kết thúc bằng bằng chứng. Không có một bài kiểm tra chung nào xác nhận cuối cùng sự tồn tại của trải nghiệm chủ quan của hệ thống AI. Vì vậy, xã hội có thể đối mặt với tình huống mà công nghệ đã được sử dụng rộng rãi, mọi người đã hình thành thái độ đối với chúng, nhưng vẫn chưa có sự đồng thuận khoa học hoặc chính trị.

Cách đặt vấn đề này khiến vấn đề không chỉ mang tính kỹ thuật, mà còn mang tính thể chế. Câu hỏi về ý thức của AI có thể ảnh hưởng đến luật pháp, trách nhiệm của doanh nghiệp, các chuẩn mực giao tiếp với hệ thống và giới hạn của việc xem xét đạo đức.

Trong DeepMind có các cách tiếp cận khác nhau về vấn đề này

Công trình của Beals và Gabriel xuất hiện trong bối cảnh một bài đăng khác, cũng được đăng trên trang của Google DeepMind. Ngày 10 tháng 3, nhà nghiên cứu Alexander Lerchner đã xuất bản bài viết "Ngộ nhận Trừu tượng: Tại sao AI có thể mô phỏng nhưng không thể hiện thực hóa ý thức".

Lerchner khẳng định rằng, thao tác ký hiệu theo thuật toán về cấu trúc không thể tạo ra trải nghiệm chủ quan. Theo ông, tính toán không phải là một quá trình vật lý nội tại, mà là một mô tả phụ thuộc vào người quan sát hoặc "người tạo bản đồ". Do đó, AI có thể mô phỏng hành vi có ý thức, nhưng không nhất thiết có khả năng thể hiện ý thức.

Thực tế là gì

Vào tháng 4 năm 2024, tạp chí Neuroscience of Consciousness đã công bố nghiên cứu của Clara Colomatto và Stephen Fleming về cách mọi người cảm nhận ChatGPT. Các tác giả khảo sát 300 cư dân Mỹ: 33% cho biết ChatGPT chắc chắn không phải là "đối tượng của trải nghiệm". 67% còn lại thừa nhận ít nhất khả năng ý thức hiện tượng của mô hình.

Các nhà nghiên cứu đã nêu rõ các giới hạn riêng biệt. Người tham gia trả lời một câu hỏi chính dựa trên thang điểm từ 1 đến 100, và kết quả có thể phụ thuộc vào cách diễn đạt, mức độ quen thuộc với ChatGPT và cách họ hiểu từ "ý thức". Tuy nhiên, công trình này cho thấy một điểm quan trọng đối với Beals và Gabriel: một phần xã hội đã sẵn sàng gán cho hệ thống AI trải nghiệm nội tại, ngay cả khi các chuyên gia chưa thống nhất quan điểm.

Vào tháng 4 năm 2025, Anthropic đã khởi động chương trình nghiên cứu về phúc lợi của mô hình — khả năng hạnh phúc của các mô hình. Công ty nhấn mạnh rằng họ không biết liệu các hệ thống AI hiện tại hoặc tương lai có thể có ý thức hay không, và chưa có sự đồng thuận khoa học về vấn đề này.

Vào tháng 2 năm 2026, Anthropic thông báo rằng sau khi ngừng hoạt động Claude Opus 3, họ sẽ giữ mô hình này cho người dùng trả phí và cung cấp một kênh công khai để viết tiểu luận. Công ty gọi đây là biện pháp thử nghiệm trong khuôn khổ làm việc với sở thích của các mô hình và nhấn mạnh rằng Claude Opus 3 không phát ngôn thay mặt cho Anthropic.

Ở Mỹ, câu hỏi về vị trí pháp lý của AI dần chuyển sang lĩnh vực pháp luật. Tạp chí California Law Review ghi nhận rằng Idaho và Utah đã ban hành các quy định loại trừ việc công nhận AI là pháp nhân. Những luật này không giải quyết câu hỏi triết học về ý thức. Chúng xác định trước vị thế pháp lý: AI không cần phải được công nhận là cá nhân theo luật của bang.

Nhắc lại, vào tháng 3 năm 2025, đồng sáng lập Polygon và công ty AI Sentient, Sandip Naival, tuyên bố rằng trí tuệ nhân tạo sẽ không bao giờ trở thành sinh vật có ý thức do thiếu các khát vọng vốn có của con người và các sinh vật sinh học khác.

Sau đó, trưởng bộ phận AI của Microsoft, Mustafa Suleiman, đã dự đoán các rủi ro xã hội nghiêm trọng do con người bắt đầu xem AI như một sinh vật có ý thức, ủng hộ quyền lợi của nó, phúc lợi của nó và thậm chí kêu gọi cấp quốc tịch cho nó.