Thanh thiếu niên kiện xAI của Musk vì trình tạo hình ảnh được cho là đã tạo ra hình ảnh khiêu dâm rõ ràng của họ khi là trẻ em

NASHVILLE, Tenn. (AP) — Ba thiếu niên ở Tennessee đã kiện xAI của Elon Musk trong tuần này, cáo buộc công ty đã sử dụng các công cụ tạo hình ảnh để biến các bức ảnh thật của họ thành các hình ảnh rõ ràng mang tính chất khiêu dâm.

Các học sinh trung học này, với tên giả danh, đã đệ đơn kiện tại California, nơi đặt trụ sở chính của xAI — công ty trí tuệ nhân tạo của Musk. Họ yêu cầu được xét xử theo dạng kiện tập thể để đại diện cho hàng nghìn nạn nhân giống như họ, những người là trẻ vị thành niên hoặc đã là trẻ vị thành niên khi các hình ảnh khiêu dâm của họ được tạo ra.

Theo đơn kiện, Jane Doe 1 đã nhận được cảnh báo ẩn danh vào tháng 12 rằng ai đó đang phát tán các hình ảnh khiêu dâm của cô trên một trang mạng xã hội.

“Ít nhất năm trong số các tệp này, gồm một video và bốn hình ảnh, đã mô phỏng khuôn mặt và cơ thể của cô ấy trong các bối cảnh quen thuộc, nhưng đã biến thành các tư thế mang tính chất khiêu dâm,” đơn kiện cho biết. Nó cáo buộc người phát tán các hình ảnh này biết rõ về Doe và đã sử dụng các công cụ tạo hình ảnh của xAI để biến các bức ảnh thật của cô thành các hình ảnh mang tính lạm dụng tình dục. Một trong các hình ảnh này được chụp từ một bức ảnh trong lễ hội đón chào năm cuối cấp. Một bức khác lấy từ năm cuối trung học.

Người phát tán các hình ảnh cũng đã tạo ra các hình ảnh rõ ràng của ít nhất 18 cô gái khác, trong đó có hai người là đồng đơn kiện trong vụ kiện này. Vào cuối tháng 12, cảnh sát địa phương đã bắt giữ thủ phạm và thu giữ điện thoại của hắn. Họ phát hiện hắn đã tải các hình ảnh này lên nhiều nền tảng, nơi hắn đã trao đổi chúng lấy các hình ảnh khiêu dâm của các trẻ vị thành niên khác.

Các công ty AI khác đã cấm các công cụ tạo hình ảnh của họ sản xuất bất kỳ nội dung khiêu dâm nào, kể cả của người lớn. Musk xem đây là cơ hội kinh doanh và quảng bá khả năng của chatbot Grok của xAI có thể tạo ra nội dung “hấp dẫn”, theo cáo buộc trong đơn kiện. Tuy nhiên, hiện tại không có cách nào để ngăn chặn việc tạo ra các hình ảnh rõ ràng của người lớn trong khi hoàn toàn chặn việc tạo ra hình ảnh của trẻ em, theo đơn kiện. Nó cũng cáo buộc rằng xAI biết rõ rằng Grok có thể tạo ra các hình ảnh khiêu dâm của trẻ em nhưng vẫn phát hành nó.

Đơn kiện cho rằng người phát tán các hình ảnh của các bị cáo đã sử dụng một ứng dụng có giấy phép công nghệ của xAI hoặc “mua quyền truy cập vào Grok, và đã dùng như một trung gian hoặc trung gian trung gian.”

xAI chưa phản hồi email từ The Associated Press yêu cầu bình luận. Tuy nhiên, một bài đăng ngày 14 tháng 1 về tranh cãi này trên nền tảng mạng xã hội X cho biết: “Chúng tôi cam kết giữ cho X trở thành một nền tảng an toàn cho mọi người và không khoan nhượng với bất kỳ hình thức khai thác tình dục trẻ em, hình nude không đồng ý, và nội dung tình dục không mong muốn.

Chúng tôi hành động để loại bỏ các nội dung vi phạm ưu tiên cao, bao gồm Tài liệu Lạm dụng Tình dục Trẻ em (CSAM) và hình nude không đồng ý, và thực hiện các biện pháp phù hợp đối với các tài khoản vi phạm Quy tắc của X. Chúng tôi cũng báo cáo các tài khoản tìm kiếm tài liệu khai thác tình dục trẻ em cho các cơ quan thực thi pháp luật khi cần thiết.”

Trong khi đó, các học sinh trong vụ kiện cho biết họ lo lắng rằng các hình ảnh của họ sẽ tồn tại mãi mãi trên internet. Họ sợ bị theo dõi vì tên thật và tên trường của họ được đính kèm vào các tệp. Họ lo lắng rằng bạn bè và bạn cùng lớp đã xem các hình ảnh và video này, vốn trông có vẻ thật, và họ lo lắng về ai sẽ nhìn thấy chúng trong tương lai.

Jane Doe 1 cho biết cô đã gặp phải các vấn đề về lo âu, trầm cảm, căng thẳng. “Cô ấy gặp khó khăn trong việc ăn uống và ngủ, và thường xuyên mơ thấy ác mộng,” đơn kiện nói. Jane Doe 2 “đã bắt đầu tự cách ly và tránh xa trường học, thậm chí còn sợ tham dự lễ tốt nghiệp của chính mình.” Jane Doe 3 bị đeo bám bởi nỗi sợ hãi và lo lắng rằng ai đó sẽ nhìn thấy các hình ảnh do AI tạo ra và nhận ra khuôn mặt của cô, theo đơn kiện.