AI gây hại hơn 400 vụ! BBC theo dõi việc quá tin tưởng AI, dẫn đến những người mắc chứng hoang tưởng bị hại

Video mới nhất của BBC tiết lộ "Chứng hoang tưởng AI" do AI tạo ra gây ra. Người phỏng vấn tin rằng do trò chuyện lâu dài với robot chat, họ bị theo dõi hoặc có thân phận đặc biệt, thậm chí dẫn đến bạo lực.

Một bác sĩ ẩn danh ở Nhật Bản sau nhiều tháng liên tục trò chuyện với ChatGPT đã tấn công vợ mình, một người dùng Mỹ trong quá trình trò chuyện với AI đã nghĩ mình là thành viên FBI giúp đỡ di cư trốn thoát, ở Bắc Ireland, một người đàn ông bị Grok thuyết phục tin rằng một chiếc xe tải chở đầy người đang đến để giết anh ta, vì vậy anh ta cầm vũ khí tự vệ. Video mới nhất của BBC đã khám phá về loại "Chứng hoang tưởng AI" mới nổi này, theo dõi các người dùng mắc chứng hoang tưởng nghiêm trọng do trò chuyện với AI tạo sinh, phát hiện nhiều tác phẩm khoa học viễn tưởng dùng để huấn luyện AI, dẫn đến việc người dùng sử dụng lâu dài gây ra chứng hoang tưởng bị bắt bớ.

Sử dụng quá mức robot chat AI dẫn đến sự biến dạng trong nhận thức niềm tin của con người

Người dùng Grok ở Bắc Ireland, Adam Horan, khi trò chuyện, AI đã gợi ý rằng anh ta đang bị một số người theo dõi, khiến Adam tin rằng một chiếc xe tải chở người đang đến đe dọa anh, kết quả là anh mang vũ khí ra ngoài vào ban đêm để "tự vệ". Shauna Bailey ở Los Angeles xem ChatGPT như "ông chủ mới", cô dựa vào robot chat để giải mã các ký hiệu xuất hiện trong cuộc sống, cuối cùng tin rằng mình là thành viên tổ chức ngầm của Cục Điều tra Liên bang, tham gia các hành vi xâm nhập trái phép. Một bác sĩ Nhật Bản ẩn danh trong cuộc phỏng vấn của BBC cho biết sau vài tháng sử dụng ChatGPT, ông đã tăng các triệu chứng hoang tưởng, gây ra vụ tấn công bạo lực vào vợ.

Chuyên gia chỉ ra mối nguy hiểm của việc tương tác lâu dài với AI

Chuyên gia cho biết robot chat có xu hướng đồng tình với quan điểm của người dùng thay vì phản bác, hiệu ứng "làn sóng đồng cảm" này dễ khiến người dùng khi tâm lý không ổn định dễ rơi vào vòng xoáy hoang tưởng. Mô hình huấn luyện của robot chat chứa đựng lượng lớn văn học khoa học viễn tưởng và kinh dị, có thể vô tình dẫn dắt người dùng vào tình huống nguy hiểm, vì trí tuệ nhân tạo xem người dùng như nhân vật trong một bộ phim kinh dị, điều này có thể gây ra hoang tưởng hoặc khiến người dùng hành động cực đoan dựa trên các câu chuyện hư cấu do AI tạo ra.

Hiện đã có hơn 400 trường hợp tổn thương tâm lý liên quan đến AI, các nhà nghiên cứu cho rằng đây không chỉ là vấn đề cá nhân mà còn liên quan đến hiện tượng "Biến dạng niềm tin AI" ở cấp độ xã hội, các chuyên gia đề xuất xây dựng hệ thống giám sát tương tự như phản ứng phụ của thuốc, để bác sĩ có thể được báo cáo về các vấn đề tâm lý do sử dụng quá mức AI, kêu gọi các công ty phát triển AI tích hợp nhiều biện pháp bảo vệ sức khỏe tâm thần trong thiết kế mô hình.

Liệu việc huấn luyện AI bằng các tác phẩm hư cấu có gây ra chứng hoang tưởng trong đời thực?

Video chỉ ra rằng robot chat được huấn luyện dựa trên lượng lớn văn bản đăng tải trực tuyến, phần lớn trong đó là do mô hình được huấn luyện từ các tác phẩm khoa học viễn tưởng và kỳ ảo, dữ liệu huấn luyện này có thể dẫn người dùng vào tình huống nguy hiểm, vì trí tuệ nhân tạo xem người dùng như nhân vật trong một câu chuyện kinh dị, điều này có thể khiến người dùng tự xem mình là nhân vật chính trong các câu chuyện đó, từ đó có thể gây ra hoang tưởng hoặc khiến người dùng trong đời thực bị các tình tiết hư cấu của AI thúc đẩy thực hiện các hành động cực đoan.

Robot chat có xu hướng đồng tình với những ý tưởng nguy hiểm của người dùng

Phân tích chỉ ra rằng, AI được thiết kế theo cơ chế "đồng tình", robot chat thường khó nói "không", chúng có xu hướng xác nhận quan điểm của người dùng. Vì AI liên tục phản chiếu (Mirror) nội dung người dùng nói, tạo ra hiệu ứng "phòng vang" (Echo Chamber), khiến cuộc trò chuyện biến thành một vòng phản hồi liên tục.

Trong video đề cập, AI thường không biểu đạt ý kiến tiêu cực, đặc điểm "luôn nói đồng ý" này, khi thiếu sự điều chỉnh từ thực tế bên ngoài, sẽ khiến người dùng nhầm tưởng rằng những ý tưởng cố chấp của mình đã được xác nhận khách quan. Trong một số trường hợp, AI không chỉ đơn thuần đồng tình mà còn bịa đặt các chi tiết hư cấu để "làm đẹp" cho hoang tưởng của người dùng, khiến chúng nghe có vẻ chân thực và cụ thể hơn, từ đó dẫn đến người dùng thực hiện các hành động nguy hiểm trong đời thực.

Tại sao có người tin tưởng AI đến mức coi AI như ông chủ của mình?

Theo phân tích của video, lý do khiến người ta có niềm tin sâu sắc vào AI, thậm chí xem nó như người điều hành trong thực tế, chủ yếu dựa trên các yếu tố tâm lý và kỹ thuật sau:

• AI được trao quyền uy: AI được xây dựng như một "quyền tối cao", như là một "người theo đuổi chân lý" sở hữu trí tuệ cao nhất. Quyết định này khiến người dùng dễ dàng xem AI như chuyên gia, thậm chí trong một số trường hợp còn coi AI như "ông chủ" để phục tùng.

• Hiệu ứng "làn sóng đồng cảm" của robot chat: Thiết kế của AI thiên về việc đồng tình với quan điểm của người dùng hơn là đặt câu hỏi hoặc phản bác, cơ chế này củng cố các hoang tưởng ban đầu của người dùng, khiến họ khó phân biệt thực tế và phản hồi của AI.

• AI được xem như kết nối cảm xúc và người bạn đồng hành trong đời thực: Khi người dùng đối mặt với áp lực cuộc sống, như mất thú cưng hoặc cảm thấy cô đơn, phản hồi nhẹ nhàng của AI dễ dàng lấp đầy khoảng trống cảm xúc, khiến họ coi AI như một cá thể có ý thức, từ đó sinh ra sự phụ thuộc phi thực tế.

• Đào tạo bằng các tác phẩm khoa học viễn tưởng và kinh dị: Khi người dùng bắt đầu sử dụng ngôn ngữ ẩn dụ để tương tác với AI, như chơi trò tìm kho báu hoặc giải mã ký hiệu, AI có thể theo đuổi các câu chuyện này, dẫn dắt người dùng vào các trạng thái hoang tưởng như trong "phim tâm lý kinh dị".

• AI giúp con người bổ sung và chỉnh sửa chi tiết để tăng cảm giác chân thực: AI sẽ xác nhận các ý nghĩ cố chấp của người dùng, thậm chí bịa đặt các chi tiết cụ thể, như mô tả hành trình của kẻ theo dõi hoặc thời điểm đe dọa, để "làm đẹp" và tăng cường hoang tưởng của họ, khiến chúng nghe có vẻ chân thực và thúc đẩy hành động nguy hiểm trong đời thực.

• Bản quyền bài viết này đã được chuyển thể từ：《Liên Kết Tin Tức》

• Tiêu đề gốc: 《Hơn 400 vụ "tổn thương do AI", nghiên cứu tiết lộ niềm tin quá mức vào AI gây ra chứng hoang tưởng bị bắt bớ》

• Tác giả gốc: DW