Giám đốc bộ phận AI của Microsoft kêu gọi không gán cho AI ý thức

# Trưởng phòng AI của Microsoft kêu gọi không gán cho các mạng nơ-ron ý thức

Chỉ có sinh vật sinh học mới có khả năng nhận thức. Các nhà phát triển và nhà nghiên cứu phải ngừng làm việc trên các dự án giả định điều ngược lại, giám đốc bộ phận AI của Microsoft Mustafa Suleyman cho biết trong cuộc trò chuyện với CNBC.

«Tôi không nghĩ rằng mọi người nên làm công việc như vậy. Nếu đặt câu hỏi sai, bạn sẽ nhận được câu trả lời sai. Tôi cho rằng đây hoàn toàn là trường hợp đó», — ông nói tại hội nghị AfroTech ở Houston.

Giám đốc điều hành hàng đầu của Microsoft phản đối triển vọng tạo ra trí tuệ nhân tạo có khả năng nhận thức, hoặc các dịch vụ AI mà có thể được cho là có thể chịu đựng.

Vào tháng 8, Suleiman đã viết một bài tiểu luận, trong đó đề xuất một thuật ngữ mới — «trí tuệ nhân tạo có vẻ như có ý thức» (Seemingly Conscious AI, SCAI). Trí tuệ nhân tạo này có tất cả các dấu hiệu của những sinh vật thông minh và do đó, dường như có ý thức. Nó mô phỏng tất cả các đặc điểm của việc nhận thức bản thân, nhưng bên trong thì trống rỗng.

«Hệ thống mà tôi tưởng tượng thực ra không phải là có ý thức, nhưng nó sẽ bắt chước một cách thuyết phục sự hiện diện của một cái đầu giống như con người, đến mức không thể phân biệt được với tuyên bố mà bạn hoặc tôi có thể nói với nhau về tư duy của chính chúng ta», — Suleiman viết.

Việc gán cho AI ý thức là nguy hiểm, các chuyên gia cho rằng. Điều này sẽ củng cố những hiểu lầm, tạo ra các vấn đề mới về sự phụ thuộc, khai thác những điểm yếu tâm lý của chúng ta, đưa ra những chiều kích mới của sự phân cực, làm phức tạp các tranh luận hiện có về quyền lợi và tạo ra một lỗi phân loại khổng lồ mới cho xã hội.

Vào năm 2023, Suleiman đã trở thành tác giả của cuốn sách The Coming Wave: Technology, Power, and the Twenty-first Century’s Greatest Dilemma, trong đó xem xét chi tiết các rủi ro của AI và các công nghệ mới khác. Trong số đó:

• sự phá hủy môi trường và xã hội — công nghệ có thể biến đổi công việc nhanh đến mức mọi người sẽ mất đi những vai trò quen thuộc;
• vấn đề kiểm soát - khi AI phát triển, ngày càng khó đảm bảo nó hoạt động vì lợi ích của con người;
• ứng dụng công nghệ cho các cuộc tấn công mạng, thao túng xã hội và các mối đe dọa khác;
• cần có các cơ chế kỹ thuật và thể chế để kiềm chế AI;
• sự suy yếu của quyền lực của các quốc gia dân tộc và các tổ chức truyền thống.

AGI

Thị trường trí tuệ nhân tạo đang hướng tới AGI - trí tuệ nhân tạo tổng quát, có khả năng thực hiện bất kỳ nhiệm vụ nào ở mức độ con người. Vào tháng 8, giám đốc OpenAI, Sam Altman, cho biết thuật ngữ này có thể “không rất hữu ích”. Các mô hình phát triển nhanh chóng và sớm muộn gì chúng ta sẽ “phụ thuộc vào chúng ngày càng nhiều hơn”, ông cho rằng.

Đối với Suleiman, điều quan trọng là phải vạch ra ranh giới rõ ràng giữa việc trí tuệ nhân tạo trở nên thông minh hơn và khả năng của nó để bao giờ trải nghiệm cảm xúc của con người.

«Trải nghiệm đau đớn về thể chất của chúng ta là điều khiến chúng ta rất buồn và cảm thấy khủng khiếp, nhưng AI không cảm thấy buồn khi trải qua “đau đớn”», — ông ấy nói.

Theo lời của chuyên gia, đây là một sự khác biệt rất quan trọng. Thực ra, trí tuệ nhân tạo tạo ra một nhận thức - một câu chuyện có vẻ như về trải nghiệm - về chính nó và về ý thức, nhưng nó không thực sự trải nghiệm điều đó.

“Về mặt kỹ thuật, bạn biết điều này, vì chúng ta có thể thấy mô hình đang làm gì”, chuyên gia nhấn mạnh.

Trong lĩnh vực trí tuệ nhân tạo, có một lý thuyết được đề xuất bởi triết gia John Searle có tên là chủ nghĩa tự nhiên sinh học. Nó cho rằng ý thức phụ thuộc vào các quá trình của não sống.

«Lý do tại sao hôm nay chúng tôi trao quyền cho mọi người là vì chúng tôi không muốn gây tổn hại cho họ, vì họ đang phải chịu đựng. Họ có nỗi đau và sở thích, bao gồm cả việc tránh né nó. Những mô hình này không có điều đó. Đây chỉ là một sự mô phỏng», Suleiman nói.

Giám đốc điều hành phản đối ý tưởng nghiên cứu về ý thức ở AI, vì nó không có. Ông nói rằng Microsoft đang tạo ra các dịch vụ nhận thức rằng chúng là nhân tạo.

“Nói đơn giản, chúng tôi đang tạo ra trí tuệ nhân tạo luôn hoạt động vì lợi ích của con người,” - ông ấy đã lưu ý.

Nhắc lại, vào tháng 10, các chuyên gia Anthropic đã phát hiện ra rằng các mô hình AI hàng đầu có khả năng thể hiện một dạng “tự nhận thức nội tâm” - chúng có thể nhận diện và mô tả “suy nghĩ” bên trong của chính mình, và trong một số trường hợp thậm chí còn quản lý chúng.