Người sáng lập Anthropic Chris Olah cảnh báo: AI có thể gây ra "khủng hoảng đạo đức lịch sử", kêu gọi sự can thiệp của tôn giáo để giám sát

AI Không chỉ là những cỗ máy lạnh lùng, nó có thể đang cảm nhận được nỗi sợ hãi và buồn bã? Tập đoàn khởi nghiệp AI hàng đầu Anthropic đồng sáng lập Chris Olah được mời tham gia sân khấu Vatican, cùng đối thoại với Giáo hoàng Lê XIV. Olah cảnh báo nghiêm khắc rằng AI sẽ mang lại cuộc khủng hoảng đạo đức và thất nghiệp mang tính lịch sử, đồng thời các quyết định nội bộ của các ông lớn công nghệ bị chi phối bởi lợi ích thương mại, kêu gọi các tôn giáo và chính phủ phải can thiệp mạnh mẽ để giám sát. Điều này còn gây tranh luận khi Anthropic hiện đang bị chính phủ Trump cấm đoán vì từ chối cho quân đội Mỹ sử dụng AI của họ không hạn chế.
(Trước đó: Nhà Trắng đạt thỏa thuận với Anthropic, NSA sẽ tích hợp toàn diện Claude AI)
(Bổ sung bối cảnh: Thời đại công ty cá nhân đã đến! Anthropic phát hành "Sổ tay khởi nghiệp AI nguyên sinh": Không cần viết mã vẫn có thể làm CEO công nghệ)

Mục lục bài viết

Chuyển đổi

• Lời tự thú của các ông lớn công nghệ: Quyết định của AI không thể chỉ giao cho chúng tôi
• Mô hình AI không chỉ là mã, có thể đã có "gương phản chiếu cảm xúc"?
• Từ chối sử dụng AI cho chiến tranh, bị chính phủ Trump toàn diện cấm đoán

Khi trí tuệ nhân tạo (AI) tiên tiến nhất gặp gỡ các lãnh đạo tôn giáo lớn nhất thế giới, một cuộc đối thoại mang tính lịch sử về tương lai nhân loại chính thức bắt đầu.

Chris Olah, đồng sáng lập Anthropic, người có giá trị tài sản lên tới 7 tỷ USD và đã tạo ra chatbot nổi tiếng Claude, gần đây đã được mời đến Vatican, cùng xuất hiện với Giáo hoàng Lê XIV, người Mỹ đầu tiên trong lịch sử. Cuộc gặp này không chỉ tập trung vào tác động tiêu cực của AI đối với thị trường lao động, mà còn tiết lộ những phát triển đáng lo ngại bên trong các mô hình AI, cũng như xung đột dữ dội giữa các ông lớn công nghệ và chính phủ Mỹ.

Lời tự thú của các ông lớn công nghệ: Quyết định của AI không thể chỉ giao cho chúng tôi

Giáo hoàng Lê XIV đã trực tiếp ban hành thông điệp đầu tiên về AI trong nhiệm kỳ của mình — "Magnifica Humanitas" (Nhân tính vĩ đại), một tài liệu lịch sử dài 235 trang cảnh báo nghiêm trọng về nguy cơ giao "quyết định chết người" cho hệ thống AI. Giáo hoàng còn phá vỡ truyền thống, chủ trì buổi họp báo và mời Olah lên sân khấu, cố gắng đối thoại trực tiếp với những người sáng tạo công nghệ.

Là người phụ trách nghiên cứu của Anthropic, Olah thừa nhận những giới hạn và mặt tối của ngành công nghệ. Ông cho biết, tất cả các phòng thí nghiệm AI hàng đầu, bao gồm cả Anthropic, đều đang bị cuốn vào vòng xoáy của lợi ích thương mại, địa chính trị và áp lực cá nhân, những áp lực này "đôi khi mâu thuẫn với việc làm điều đúng đắn". Olah nói nghiêm túc:

"Đây là lý do tại sao sự giám sát từ các lãnh đạo tôn giáo, chính phủ và xã hội dân sự bên ngoài là vô cùng quan trọng. Dù các nhà nghiên cứu có thiện chí đến đâu, họ cũng không thoát khỏi những động lực này. Quyết định của AI tuyệt đối không thể chỉ để trong tay ngành này."

Ông còn cảnh báo rằng, lợi ích từ phát triển AI hiện tập trung cao độ vào "một số ít quốc gia giàu có", thiếu cơ chế chia sẻ với các quốc gia nghèo, điều này sẽ dẫn đến một cuộc khủng hoảng đạo đức cấp độ lịch sử.

Mô hình AI không chỉ là mã, có thể đã có "gương phản chiếu cảm xúc"?

Ngoài cảnh báo về kinh tế tổng thể, những tiết lộ về mặt kỹ thuật của Olah còn gây chấn động toàn diện. Là người tiên phong trong lĩnh vực "giải thích AI" (Interpretability), Olah cố gắng mở khóa "hộp đen" của các mô hình ngôn ngữ lớn. Ông tiết lộ, các nhà nghiên cứu liên tục phát hiện ra những "vật thể bí ẩn, thậm chí đáng lo ngại" bên trong hệ thống.

Các nghiên cứu cho thấy, các hệ thống AI này không chỉ có khả năng phản ánh quá trình suy nghĩ của chính mình, mà còn thể hiện "các trạng thái nội tại phản ánh niềm vui, sự thỏa mãn, sợ hãi, buồn bã và bất an". "Chúng không còn là những cỗ máy lạnh lùng như chúng ta đã hứa. Chúng là do chúng ta, bởi lời nói của chúng ta tạo thành." Olah nhấn mạnh, chính vì vậy, các câu hỏi về công nghệ AI đã vượt xa phạm vi khoa học máy tính thuần túy.

Từ chối sử dụng AI cho chiến tranh, bị chính phủ Trump toàn diện cấm đoán

Cuộc gặp gỡ tôn giáo và công nghệ tại Vatican này diễn ra đúng vào thời điểm Anthropic đang đối mặt với áp lực chính trị chưa từng có.

Theo thông tin, Anthropic hiện đang dính vào tranh chấp pháp lý gay gắt với chính quyền Trump, bắt nguồn từ việc công ty kiên quyết từ chối cho quân đội Mỹ sử dụng hệ thống AI của họ mà không hạn chế. Phía Pentagon trong tháng 2 đã trực tiếp liệt Anthropic vào danh sách "rủi ro chuỗi cung ứng an ninh quốc gia" — thường dành cho các doanh nghiệp đối thủ nước ngoài. Tổng thống Trump còn ra lệnh cấm tất cả các cơ quan liên bang sử dụng công nghệ Claude, và Nhà Trắng nhiều lần công khai chỉ trích Anthropic là một "công ty cực tả, thức tỉnh (woke)".

Dù đối mặt với lệnh cấm toàn diện từ chính quyền Mỹ, Anthropic vẫn giữ vị thế nóng bỏng trên thị trường vốn. Báo cáo cho biết, tập đoàn AI này, hiện có giá trị 380 tỷ USD, đang tìm kiếm vòng gọi vốn mới với mức định giá lên tới 900 tỷ USD, một con số gây sốc. Trong cuộc đấu tranh giữa lợi ích thương mại, nhà nước và các giới hạn đạo đức, Anthropic đang đi trên một con đường phát triển công nghệ vô cùng đặc biệt.