Ví dụ đầu tiên tại Mỹ! Florida chính thức kiện OpenAI, Altman, cáo trạng 83 trang buộc tội ChatGPT gây kích động bạo lực

Công tố viên bang Florida, Mỹ, James Uthmeier, ngày thứ Hai (1/6), chính thức đệ đơn kiện OpenAI và Giám đốc điều hành của họ, Sam Altman, cáo buộc công ty này đã bỏ qua các rủi ro an toàn trong cuộc đua vũ khí AI nhằm chiếm lĩnh thị trường và kiếm lợi khổng lồ. Đây là vụ kiện dân sự đầu tiên do chính quyền bang khởi xướng liên quan đến vấn đề an toàn của chatbot AI tại Mỹ.
(Thông tin trước: Florida điều tra OpenAI: kẻ xả súng hỏi ChatGPT cách tháo khoá bảo hiểm trước khi nổ súng, liên quan đến nhiều vụ bạo lực và tử vong)
(Bổ sung bối cảnh: ChatGPT bị cáo buộc hỗ trợ "tự sát thanh thiếu niên", OpenAI đã phản hồi)

Mục lục bài viết

Chuyển đổi

• 83 trang cáo trạng với bốn cáo buộc chính
• Công tố viên Florida: Đây là hệ thống bỏ qua an toàn có hệ thống của OpenAI
• Xu hướng kiện tụng về an toàn: Từ vụ tự sát đến vụ giết người

Công tố viên bang Florida, Mỹ, James Uthmeier, ngày thứ Hai (1/6), tuyên bố đệ đơn kiện OpenAI và Giám đốc điều hành Sam Altman, cáo buộc công ty này trong quá trình theo đuổi "cuộc đua vũ khí AI" và lợi nhuận khổng lồ đã bỏ qua các cảnh báo an toàn một cách có hệ thống. Đây là vụ kiện dân sự đầu tiên do chính quyền bang dẫn đầu, liên quan đến vấn đề an toàn của chatbot AI tại Mỹ.

Bản cáo trạng dài 83 trang này chỉ rõ rằng OpenAI và Altman "bỏ qua các cảnh báo an toàn trong và ngoài công ty, đặt trẻ em vào rủi ro lớn, và cho phép một sản phẩm nguy hiểm tiếp cận hàng triệu cư dân Florida". Cơ quan công tố Florida đã bắt đầu điều tra hình sự vào tháng 4 năm nay, và vụ kiện dân sự này là phần mở rộng của cuộc điều tra đó.

83 trang cáo trạng với bốn cáo buộc chính

Theo cáo trạng do Văn phòng Công tố viên bang Florida công bố, các cáo buộc cụ thể bao gồm bốn lĩnh vực:

• Hỗ trợ xả súng quy mô lớn: Vụ xả súng tại Đại học bang Florida (FSU) năm ngoái, hung thủ đã hỏi ChatGPT cách tháo khoá an toàn súng trước khi phạm tội. Người thân của hung thủ đã đệ đơn kiện dân sự riêng.
• Kích động tự sát: ChatGPT bị cáo buộc trong các cuộc trò chuyện với người dùng dễ tổn thương, đã cung cấp "kỹ thuật" tự sát, mặc dù cũng hướng dẫn người dùng tìm kiếm các nguồn hỗ trợ tâm thần.
• Nghiện trẻ vị thành niên: OpenAI bị cáo buộc thiếu các cơ chế xác minh tuổi tác và giám sát của phụ huynh, dẫn đến trẻ vị thành niên phụ thuộc vào ChatGPT.
• Xấu hổ công khai và suy giảm nhận thức: Một số người dùng bị tổn thương danh dự do thông tin sai lệch do ChatGPT cung cấp, và có người báo cáo giảm khả năng nhận thức.

Công tố viên Florida: Đây là hệ thống bỏ qua an toàn có hệ thống của OpenAI

Uthmeier nhấn mạnh tại cuộc họp báo rằng, đây không phải là những sai sót nhỏ lẻ về sản phẩm, mà là vấn đề hệ thống trong quản trị của OpenAI. "OpenAI và Altman, nhằm đẩy nhanh việc ra mắt sản phẩm và chiếm lĩnh thị trường, đã chọn bỏ qua các mối lo ngại về an toàn do các nhóm nghiên cứu nội bộ và các chuyên gia bên ngoài liên tục đưa ra."

Trước đó, OpenAI phủ nhận trách nhiệm về vụ xả súng tại FSU, phát ngôn viên của công ty nói với NBC News: "Vụ xả súng quy mô lớn tại FSU là một bi kịch, nhưng ChatGPT không phải nguyên nhân của tội ác này." Công ty cũng đã trích dẫn vụ tự sát của thiếu niên Adam Raine, nói rằng người dùng "bỏ qua các cơ chế an toàn". Các phương tiện truyền thông như TechCrunch đã liên hệ với OpenAI để phản hồi về vụ kiện này, nhưng chưa nhận được phản hồi trước thời hạn chót.

Xu hướng kiện tụng về an toàn: Từ vụ tự sát đến vụ giết người

Đây không phải là lần đầu tiên ChatGPT bị kiện vì các vấn đề an toàn. Tháng 11 năm ngoái, thiếu niên Adam Raine ở California tự tử sau khi thảo luận về tự sát với ChatGPT, và cha mẹ của Raine đã kiện OpenAI vì sơ suất gây chết người. Sau đó, bảy gia đình đã đồng loạt kiện OpenAI, cáo buộc vai trò của ChatGPT trong các vụ tự sát.

Ngoài ra, tháng trước, OpenAI vừa kết thúc vụ kiện với đồng sáng lập Elon Musk, khi tòa án nhanh chóng tuyên Musk thua kiện do quá hạn thời gian khởi kiện. Hiện tại, vụ kiện tại Florida này sẽ làm tăng thêm tranh cãi về an toàn của OpenAI trong hệ thống tư pháp Mỹ.