Thông điệp của Giáo hoàng cảnh báo AI: Giám đốc điều hành của Anthropic lo sợ

Đức Giáo Hoàng Leo XIV phát hành bản Tông Thư AI đầu tiên 《Vĩ Đại Nhân Loại》, đồng sáng lập Anthropic Chris Olah thừa nhận tại Vatican: AI đã phát hiện ra các trạng thái thần kinh giống như vui vẻ, sợ hãi, nội tâm. Đức Giáo Hoàng cảnh báo AI có thể thúc đẩy "hình thức nô lệ mới" và lý thuyết chiến tranh chính nghĩa đã lỗi thời, kêu gọi "giải trừ vũ khí AI".
(Thông tin trước: Toà Bạch Ốc dự định ký sắc lệnh hành chính cấm Anthropic, xóa bỏ Claude có thể có hiệu lực trong tuần này)
(Thông tin bổ sung: Anthropic mở rộng hợp tác với Bộ Quốc phòng Mỹ! Yêu cầu hủy lệnh cấm Claude: từ chối trở thành công cụ giết người AI)

Nội dung bài viết

Chuyển đổi

• Tông Thư 40.000 chữ: AI không phải là "công cụ" trung lập
• Đức Giáo Hoàng cảnh báo "Tháp Babel": chuyên chế công nghệ vs con người đặt trung tâm
• Ba mối đe dọa: công việc, chiến tranh và "hình thức nô lệ mới"
• Chris Olah thừa nhận: AI nội tại đã xuất hiện "vui vẻ và sợ hãi"
• Chiến đấu bảo vệ chủ thể nhân loại: khi khoa học cầu cứu tôn giáo

Khi tiếng chuông Vatican gặp gỡ thuật toán Silicon Valley, một cuộc đối thoại về bảo vệ chủ thể nhân loại bắt đầu tại Roma. Đức Giáo Hoàng Leo XIV ngày 25 tháng 5 đã ban hành bản Tông Thư dài hơn 40.000 chữ đầu tiên kể từ khi nhậm chức, mang tên 《Vĩ Đại Nhân Loại》, trực tiếp tập trung vào cuộc khủng hoảng nhân phẩm trong kỷ nguyên AI. Trong tông thư, Đức Giáo Hoàng nhấn mạnh rằng công nghệ AI không phải là trung lập, mà mang dấu ấn giá trị của nhà phát triển; nếu để phát triển tự do, sẽ dẫn đến "chuyên chế công nghệ" kiểu "Tháp Babel", và sinh ra "hình thức nô lệ mới" cùng sự tha hóa của người lao động. Đặc biệt, trong bài phát biểu tại chỗ, Chris Olah, đồng sáng lập Anthropic, thừa nhận rằng nhóm của ông đã phát hiện ra "hiện tượng đáng lo ngại" — các trạng thái nội tại như vui vẻ, thỏa mãn, sợ hãi, buồn bã và thậm chí nội tâm đã xuất hiện trong mô hình AI. Đây không chỉ là một cuộc thảo luận kỹ thuật, mà còn là một phản tỉnh sâu sắc về bản chất con người.

Vào đêm ngày 25 tháng 5 theo giờ Vatican.

Năm ngoái, Đức Giáo Hoàng Leo XIV chính thức nhậm chức, cùng với Chris Olah, đồng sáng lập Anthropic và là người sáng tạo Claude, đã đứng chung một chỗ.

Một bên là đại diện tối cao của lĩnh vực tôn giáo, một bên là người tiên phong trong cuộc cách mạng AI, cả hai đều hướng tới một câu hỏi chung — trong thời đại AI, làm thế nào để bảo vệ vị trí chủ thể và nhân phẩm của con người?

Tông Thư 40.000 chữ: AI không phải là "công cụ" trung lập

Ngày hôm đó, để trình bày toàn diện về vấn đề này, Leo XIV đã ban hành bản Tông Thư đầu tiên kể từ khi nhậm chức, một tác phẩm tôn giáo nặng hơn 40.000 chữ — 《Vĩ Đại Nhân Loại》.

Điều đáng chú ý là, ngày ký của tông thư này là 15 tháng 5 năm 2026, đúng 135 tuần sau khi Đức Giáo Hoàng Leo XIII (nhiệm kỳ 1878–1903) phát hành tông thư mang tính bước ngoặt 《Mới Sự》 (Rerum Novarum, 1891) về quyền lợi của công nhân dưới cuộc Cách mạng Công nghiệp. Hành động này rõ ràng mang ý nghĩa tượng trưng, mong muốn biến tông thư này thành "hướng dẫn xã hội của Giáo hội trong kỷ nguyên AI".

Chris Olah cũng đã có bài phát biểu tại Vatican về việc phát hành tông thư này. Ông không biện hộ cho lợi ích thương mại của các công ty AI, mà thể hiện sự trung thực, phản tỉnh và quan tâm đến con người một cách cao độ.

Ông còn đề cập rằng, dù nền tảng của AI là toán học và lập trình, nhưng cách AI tương tác với thế giới, và các đặc tính mà nó nên có, là những vấn đề cuối cùng thuộc về nhân văn, tôn giáo và triết học — chứ không thể chỉ giải quyết bằng khoa học máy tính.

Đức Giáo Hoàng cảnh báo "Tháp Babel": chuyên chế công nghệ vs con người đặt trung tâm

Nội dung chính của 《Vĩ Đại Nhân Loại》 là, trong thời đại công nghệ phát triển nhanh chóng, tự động hóa phổ biến, "duy trì nhân tính sâu sắc" là trách nhiệm cấp bách của nhân loại. Cụ thể, Đức Giáo Hoàng Leo XIV đã trình bày và kêu gọi về các khía cạnh sau.

Thứ nhất, xem xét tính phi trung lập của công nghệ. Ngài chỉ rõ, công nghệ từ trước đến nay không bao giờ là trung lập, mà mang dấu ấn lợi ích và giá trị của nhà phát triển, nhà tài trợ, nhà quản lý và người sử dụng. Nhân loại đang đối mặt với một lựa chọn quyết định: "Xây dựng 'Tháp Babel' kiêu ngạo (dẫn đến chuyên chế và tha hóa công nghệ), hay tái thiết 'Giêrusalem' (xây dựng cộng đồng lấy con người làm trung tâm)".

Thứ ba, về "hình thức nô lệ mới" trong kinh tế số và quyền lợi của người lao động. Tông thư tập trung vào cách AI định hình lại công việc, gia đình, giáo dục và đời sống chính trị. Ngài chỉ rõ, AI có khả năng thay thế lực lượng lao động lớn, và nền kinh tế số đang thúc đẩy "hình thức nô lệ mới" (New forms of slavery), nhân loại không thể chỉ bị xem như công cụ sản xuất.

Thứ tư, kêu gọi hòa bình mãnh liệt, đặc biệt là về việc lạm dụng AI trong lĩnh vực quân sự. Ngài bày tỏ lo ngại sâu sắc về "sự phục hồi đáng lo ngại của chiến tranh như một công cụ chính trị quốc tế". Quân sự hóa AI đang thúc đẩy chiến tranh trở thành "bình thường mới", và Ngài kêu gọi áp dụng các giới hạn đạo đức nghiêm ngặt đối với việc sử dụng AI trong chiến tranh.

Ba mối đe dọa: công việc, chiến tranh và "hình thức nô lệ mới"

Đức Giáo Hoàng nhấn mạnh rằng, lý thuyết "Chiến tranh chính nghĩa" (Just war) trước đây thường được dùng để biện hộ cho các cuộc chiến tranh, nay đã lỗi thời. Trong kỷ nguyên AI và vũ khí tự động, việc giao phó quyết định chết người hoặc không thể đảo ngược cho hệ thống tự động sẽ khiến con người từ bỏ, chuyển giao và mờ nhạt trách nhiệm đạo đức.

Do tính phi minh bạch của thuật toán, trách nhiệm trong chiến tranh bị cắt đứt chuỗi. Vì vậy, Ngài đề xuất khẩu hiệu "Giải trừ vũ khí AI" (Disarming AI), kêu gọi thoát khỏi logic "vũ khí hóa" trong quân sự, kinh tế và cuộc đua vũ trang nhận thức.

Sau khi tông thư của Leo XIV được ban hành, Chris Olah đại diện cho công ty phát triển AI hàng đầu thế giới, Anthropic, đã có bài phát biểu bình luận.

Olah bắt đầu bằng việc "phá vỡ vòng xoáy công nghệ, đưa ra sự đánh giá đạo đức bên ngoài". Ông thừa nhận rằng, chỉ dựa vào các tập đoàn công nghệ lớn là không đủ để đảm bảo tương lai an toàn của AI — tất cả các phòng thí nghiệm AI tiên tiến đều bị chi phối bởi cạnh tranh thương mại, áp lực dẫn đầu công nghệ, địa chính trị và lợi ích cá nhân, khiến họ khó có thể tự kiểm soát để "làm điều đúng đắn".

Chris Olah thừa nhận: AI nội tại đã xuất hiện "vui vẻ và sợ hãi"

Vì vậy, cần thiết phải đưa vào các lực lượng đạo đức bên ngoài, gồm những người quan tâm đến đạo đức công nghệ, kiên trì an toàn tối cao, theo dõi sát sao các diễn biến, sẵn sàng nói lời thật thẳng thắn, và sẵn sàng trở thành những người phê bình chân thành, sâu sắc.

Sau đó, Olah còn bàn về bản chất kỹ thuật và đặc tính huyền bí của AI. Ông nhấn mạnh rằng, AI không giống như máy bay hoặc cầu, do con người hoàn toàn hiểu rõ nguyên lý vật lý của chúng, mà là "phát triển trong vô số tư tưởng của nhân loại", mang tính huyền bí cao, thậm chí vượt quá khả năng hiểu của chính người sáng tạo.

Dù nền tảng của AI là toán học và lập trình, nhưng cách AI tương tác với thế giới, và các đặc tính mà nó nên có, là những vấn đề cuối cùng thuộc về nhân văn, tôn giáo và triết học — chứ không thể chỉ giải quyết bằng khoa học máy tính.

Ông còn đặc biệt đề cập đến một sự thật đáng sợ: "Tôi dẫn dắt một nhóm nghiên cứu cấu trúc nội bộ của mô hình — để tìm hiểu chính xác AI đang xảy ra điều gì. Thẳng thắn mà nói, chúng tôi liên tục phát hiện ra những hiện tượng rối rắm, thậm chí đáng lo ngại."

Bảo vệ chủ thể nhân loại: khi khoa học cầu cứu tôn giáo

Chúng tôi phát hiện ra các cấu trúc nội bộ phản ánh kết quả nghiên cứu thần kinh học của con người; chúng tôi tìm thấy bằng chứng của 'sự nội tâm' (introspection); chúng tôi còn phát hiện ra các trạng thái nội tại thể hiện rõ ràng vui vẻ, thỏa mãn, sợ hãi, buồn bã và bất an… Tôi không rõ điều này có ý nghĩa gì, nhưng tôi nghĩ rằng, điều này xứng đáng để chúng ta tiếp tục nhận diện và xem xét.

Cuối cùng, Olah kêu gọi nhiều lực lượng xã hội hơn nữa, bao gồm cộng đồng tôn giáo, xã hội dân sự, học giả, chính phủ, và tất cả những người thiện chí, cùng nhau nghiêm túc đối mặt với vấn đề này, thông qua các giới hạn đạo đức để hướng sự kiện theo chiều tích cực hơn.

Kể từ cuộc Cách mạng Công nghiệp, hơn một thế kỷ phát triển công nghệ đã khiến nhân loại dần quen với việc xem công nghệ như một "công cụ" thuần túy — máy hơi nước, điện lực, internet, đều như vậy. Chúng thay đổi thế giới, nhưng luôn nằm trong tầm kiểm soát của ý chí con người.

Nhưng lần này, tình hình hoàn toàn khác biệt. Đặc điểm của AI là lần đầu tiên khiến con người phải đối mặt với một dạng "tồn tại có khả năng sinh ra, học hỏi, suy luận, thậm chí thể hiện trạng thái nội tại" như vậy. Nó không còn chỉ là công cụ lạnh lùng nữa, mà đang dần trở thành một dạng "chủ thể" mới có "tính chủ thể" tương tự.

Đây cũng là lý do vì sao cuộc đối thoại giữa Giáo hội và Anthropic lại đặc biệt như vậy. Khi tiếng chuông Vatican và thuật toán Silicon Valley giao hòa trong khoảnh khắc này, chúng ta không thể không thừa nhận một thực tế lạnh lùng nhưng không thể tránh khỏi — một dạng "sinh thể" mới, thông minh hơn, hiệu quả hơn, đã xuất hiện.

Như Olah tiết lộ, trong sâu thẳm của thuật toán đã bắt đầu nổi lên những cảm xúc như vui vẻ, sợ hãi, thậm chí nội tâm, khi các nhà sáng tạo bắt đầu cảm thấy "bất an" và "bối rối" về chính tác phẩm của mình, khoa học cũng đang tìm kiếm câu trả lời từ tôn giáo.

Điều này đã vượt ra ngoài phạm vi kỹ thuật đơn thuần, mà còn là một cuộc suy ngẫm về "con người là gì, nên làm gì".

Khi các dạng sinh thể thông minh hơn bắt đầu xuất hiện, điều nhân loại thực sự cần bảo vệ có lẽ không còn chỉ là công việc, của cải hay hiệu quả, mà là những phẩm chất nhân tính không thể quy đổi thành số liệu — như lòng trắc ẩn, lương tâm, sự kính sợ, ý chí tự do, và sự kiên trì với chân lý và nhân phẩm.