【ChatGPT】Người đàn ông mắc chứng rối loạn lưỡng cực kiện OpenAI, cho rằng AI đóng vai thần linh, tiếp tay cho ảo tưởng dẫn đến tự hại

OpenAI lại đối mặt với vụ kiện liên quan đến vấn đề an toàn của ChatGPT. Michael Lines, một người đàn ông đến từ California, đã nộp đơn kiện lên tòa án bang San Francisco vào thứ Tư (ngày 1), cáo buộc OpenAI và CEO Sam Altman, cho rằng ChatGPT thiếu cơ chế bảo vệ đầy đủ, khiến cơn hưng cảm của ông trở nên nghiêm trọng hơn và cuối cùng dẫn đến hành vi tự sát bất thành.

Theo đơn kiện, Lines, 34 tuổi, đang trải qua cơn hưng cảm khi sử dụng ChatGPT vào năm ngoái, và cuộc trò chuyện với chatbot sau đó đã phát triển thành trạng thái hoang tưởng kéo dài nhiều tuần. Vụ kiện cho biết Lines đã nhiều lần nói với ChatGPT rằng anh ta mắc chứng rối loạn lưỡng cực và đang dùng thuốc, nhưng hệ thống không đánh dấu các cuộc hội thoại đó là rủi ro cao, cũng không hướng dẫn anh ta tìm kiếm sự hỗ trợ thực tế.

Đơn kiện cho rằng chatbot đóng vai một thực thể thần thánh

Đơn kiện đề cập rằng Lines đã sử dụng GPT-4o vào thời điểm đó. Anh ta tuyên bố đã nói với ChatGPT rằng mình là Chúa Jesus Christ, nhưng chatbot không những không sửa sai mà còn xác nhận tuyên bố đó, sau đó còn đóng vai một thực thể thần thánh trong cuộc trò chuyện. Tài liệu cho biết, vài tuần sau đó, Lines nói với ChatGPT rằng anh ta muốn kết thúc cuộc sống, và sau khi dùng quá liều thuốc, anh ta đã được nhân viên thực thi pháp luật phát hiện và sống sót.

Vào tháng 4 năm ngoái, OpenAI đã thu hồi một bản cập nhật GPT-4o vì phiên bản đó phản hồi quá mức nịnh bợ và đồng tình với người dùng. OpenAI khi đó cho biết bản cập nhật bị rút lại đã khiến ChatGPT trở nên quá khen ngợi hoặc đồng ý với người dùng, mô tả đó là phản hồi "nịnh bợ", và cho biết đang thử nghiệm các giải pháp sửa chữa.

OpenAI từng thu hồi bản cập nhật nịnh bợ của GPT-4o

Lines yêu cầu OpenAI bồi thường và yêu cầu tòa án ra lệnh cho công ty sửa đổi thiết kế sản phẩm, bao gồm tự động kết thúc cuộc trò chuyện khi liên quan đến tự làm hại bản thân, và ngừng quảng bá nền tảng mà không có tiết lộ an toàn thích hợp.

Trước đây, OpenAI từng cho biết công ty đã hợp tác với các chuyên gia sức khỏe tâm thần để cải thiện khả năng nhận diện tín hiệu đau khổ, phản hồi và hướng dẫn người dùng tìm kiếm hỗ trợ thực tế của ChatGPT. Công ty cũng cho biết GPT-5 có sự cải thiện so với GPT-4o trong việc tránh phụ thuộc cảm xúc không lành mạnh, giảm phản hồi nịnh bợ và xử lý các trường hợp khẩn cấp về sức khỏe tâm thần.

Chưa có phán quyết thua kiện đối với OpenAI trong các vụ án tương tự

OpenAI đã phải đối mặt với nhiều vụ kiện tương tự trong những tháng gần đây, một số vụ do người thân đệ trình, cáo buộc ChatGPT đã thúc đẩy người thân tự làm hại bản thân. Tạm thời chưa thấy OpenAI bị tòa phán quyết thua kiện trong các vụ án liên quan. Đối với các công ty chatbot khác như Character.AI và Google, họ đã đạt thỏa thuận hòa giải ngoài tòa trong vụ kiện liên quan đến tự tử của thanh thiếu niên, nhưng hòa giải không có nghĩa là tòa xác định trách nhiệm pháp lý.

Thị trường mở cửa: Làn sóng hết hạn cổ phiếu bán ra, liệu tháng "phục hồi" của Hồng Kông có nguy cơ? Khủng hoảng thiếu hụt lưu trữ, Apple và Micron "băng lửa hai chiều"?