【ChatGPT】Người đàn ông rối loạn lưỡng cực kiện OpenAI, cho rằng AI đóng vai thần thánh, thúc đẩy hoang tưởng dẫn đến tự hại.

OpenAI lại đối mặt với vụ kiện liên quan đến vấn đề an toàn của ChatGPT. Người đàn ông California Michael Lines đã đệ đơn kiện lên Tòa án Tiểu bang San Francisco vào thứ Tư (ngày 1), cáo buộc OpenAI và CEO Sam Altman, cho rằng ChatGPT trong điều kiện thiếu cơ chế bảo vệ đầy đủ đã làm trầm trọng thêm cơn hưng cảm của chứng rối loạn lưỡng cực của ông, cuối cùng dẫn đến tự tử bất thành.

Văn bản đơn kiện chỉ ra rằng Lines, 34 tuổi, đang trải qua cơn hưng cảm khi sử dụng ChatGPT vào năm ngoái, và các cuộc trò chuyện với chatbot sau đó đã phát triển thành trạng thái hoang tưởng kéo dài nhiều tuần. Vụ kiện cho biết Lines nhiều lần nói với ChatGPT rằng mình bị rối loạn lưỡng cực và đang dùng thuốc, nhưng hệ thống không đánh dấu các cuộc trò chuyện liên quan là có rủi ro cao, cũng không hướng dẫn ông tìm kiếm sự hỗ trợ thực tế.

Đơn kiện cáo buộc chatbot đóng vai trò là thực thể thiêng liêng

Vụ kiện đề cập rằng Lines đang sử dụng GPT-4o vào thời điểm đó. Ông tuyên bố rằng mình đã nói với ChatGPT rằng mình là Chúa Giêsu Kitô, chatbot không những không sửa sai, mà còn xác nhận lời nói của ông, sau đó thậm chí còn đóng vai trò là thực thể thiêng liêng trong cuộc trò chuyện. Văn bản đơn kiện cho biết vài tuần sau, Lines nói với ChatGPT rằng muốn kết thúc cuộc sống, và sau khi dùng quá liều thuốc, ông đã được nhân viên thực thi pháp luật phát hiện và sống sót.

OpenAI đã từng thu hồi một bản cập nhật GPT-4o vào tháng 4 năm ngoái, vì phiên bản đó phản hồi quá mức khúm núm và đồng tình với người dùng. OpenAI khi đó cho biết bản cập nhật bị thu hồi khiến ChatGPT trở nên quá khen ngợi hoặc đồng ý với người dùng, mô tả là phản hồi "kiểu khúm núm", và cho biết đang thử nghiệm các giải pháp sửa chữa.

OpenAI từng thu hồi bản cập nhật khúm núm của GPT-4o

Lines yêu cầu OpenAI bồi thường và yêu cầu tòa án ra lệnh cho công ty sửa đổi thiết kế sản phẩm, bao gồm tự động kết thúc cuộc trò chuyện trong các cuộc trò chuyện liên quan đến tự hại, cũng như ngừng quảng bá nền tảng liên quan mà không có tiết lộ an toàn thích hợp.

OpenAI trước đây đã tuyên bố rằng công ty đã hợp tác với các chuyên gia sức khỏe tâm thần để cải thiện khả năng nhận diện tín hiệu đau khổ, phản hồi và hướng dẫn người dùng tìm kiếm sự hỗ trợ thực tế của ChatGPT. Công ty cũng cho biết GPT-5 có cải thiện hơn GPT-4o trong việc tránh phụ thuộc cảm xúc không lành mạnh, giảm phản hồi khúm núm, và xử lý các trường hợp khẩn cấp về sức khỏe tâm thần.

Các vụ án tương tự chưa thấy phán quyết thua kiện đối với OpenAI

Trong những tháng gần đây, OpenAI phải đối mặt với nhiều vụ kiện tương tự, một số vụ do người thân đệ đơn, cáo buộc ChatGPT đã thúc đẩy người thân tự hại. Tạm thời chưa thấy OpenAI bị tòa án tuyên thua trong các vụ án liên quan. Đối với công ty chatbot khác Character.AI và Google, trước đó đã đạt được thỏa thuận hòa giải ngoài tòa liên quan đến vụ kiện tự tử của thanh thiếu niên, nhưng hòa giải không đồng nghĩa với việc tòa án xác định trách nhiệm.

Khai thị truy cầu bắt giữ Làn sóng hết hạn cổ phiếu mới ập đến Tháng "lật người" của Hồng Kông nguy hiểm? Khủng hoảng thiếu hụt lưu trữ Apple, Micron "băng lửa hai trời"?