Các cô gái tuổi teen đang kiện xAI của Elon Musk vì các hình ảnh khiêu dâm AI được tạo không có sự đồng ý

Một vụ kiện tập thể tại tòa liên bang California cáo buộc mô hình Grok của xAI đã tạo ra hình ảnh rõ ràng của ba thiếu niên bằng một ứng dụng của bên thứ ba được cấp phép.

Đơn kiện, nộp ngày 16 tháng 3, đặt tên xAI — công ty trí tuệ nhân tạo do Elon Musk sáng lập — là bị đơn trong vụ án do ba thiếu niên ở Tennessee khởi kiện, cho rằng mô hình Grok của họ đã được sử dụng để tạo ra nội dung lạm dụng tình dục trẻ em mô tả họ.

Nội dung liên quan

OpenAI cảnh báo: ‘Chúng ta không thể bỏ lỡ khoảnh khắc này’

Nvidia muốn tham gia vào xu hướng OpenClaw

Đơn kiện, nộp tại Tòa án Quận phía Bắc California của Hoa Kỳ, đặt tên X $TWTR 0.00%.AI Corp. và X.AI LLC là các bị đơn. Các nguyên đơn — được gọi là Jane Doe 1, Jane Doe 2, và Jane Doe 3 — cáo buộc rằng một thủ phạm đã xây dựng mối quan hệ với ít nhất một trong số họ và sử dụng các hình ảnh thu thập từ mạng xã hội, sách lớp, và các hình ảnh cô gửi cho hắn để tạo ra hình ảnh và video rõ ràng.

Theo đơn kiện, thủ phạm không truy cập trực tiếp vào Grok hoặc X. Hắn sử dụng một ứng dụng của bên thứ ba mà các nguyên đơn cáo buộc là người cấp phép công nghệ của xAI, và đơn kiện cho biết đã chuyển hướng việc tạo hình ảnh qua các máy chủ của xAI. Trong số các tệp tin có một video cho thấy một trong các nguyên đơn cởi quần áo cho đến khi hoàn toàn khỏa thân, theo đơn kiện. Các hình ảnh này có tính chân thực cao và không được gắn nhãn là do AI tạo ra, đơn kiện nói.

Sử dụng hình ảnh của ít nhất 18 trẻ vị thành niên khác, thủ phạm đã tạo ra nội dung tình dục rõ ràng rồi trao đổi để lấy nội dung mô tả các trẻ khác trên Telegram và Discord, theo đơn kiện. Cảnh sát đã bắt giữ hắn vào cuối tháng 12 năm 2025.

Vụ kiện là vụ đầu tiên trong đó các trẻ vị thành niên bị mô tả trong nội dung CSAM do mô hình của xAI tạo ra đã kiện công ty, theo NPR.

Đơn kiện cáo buộc xAI cố ý bỏ qua các biện pháp bảo vệ tiêu chuẩn ngành — bao gồm bộ lọc nội dung, kiểm tra nhóm thử nghiệm, đối chiếu hash với các cơ sở dữ liệu CSAM đã biết, và báo cáo bắt buộc cho cơ quan chức năng — mà các đối thủ cạnh tranh như Google $GOOGL -2.00% và OpenAI đã áp dụng. Vụ kiện cũng cáo buộc xAI kiếm lợi bằng cách cấp phép mô hình Grok cho các nhà phát triển bên thứ ba, thường ở ngoài Hoa Kỳ, như một cách để tránh trách nhiệm pháp lý.

Luật sư của các nguyên đơn, Vanessa Baehr-Jones, cho biết mục tiêu là khiến việc cho phép nội dung AI rõ ràng về mặt tình dục trở thành một lựa chọn không thể kinh tế được. “Chúng tôi muốn làm cho nó trở nên không còn hợp lý về mặt kinh doanh nữa,” bà nói với NPR.

Đơn kiện liệt kê 13 cáo buộc, bao gồm các tội danh liên bang về việc sản xuất, phân phối và sở hữu nội dung khiêu dâm trẻ em theo Luật Masha, các cáo buộc theo Đạo luật Bảo vệ Nạn nhân Buôn người, và các cáo buộc theo luật bang California về cạnh tranh không lành mạnh, quyền công bố hình ảnh, và nhiều loại sơ suất khác. Các nguyên đơn yêu cầu ít nhất 150.000 đô la tiền bồi thường theo luật định cho mỗi vi phạm, cùng với tiền phạt và lệnh của tòa yêu cầu xAI chấm dứt các hành động bị cáo buộc.

Cả ba nguyên đơn đều nói rằng họ đã chịu đựng căng thẳng tâm lý nghiêm trọng. Jane Doe 1, người đã thông báo cho các nạn nhân khác và giúp bắt đầu cuộc điều tra hình sự, đã cần sự hỗ trợ học tập tại trường. Jane Doe 2, vẫn còn là học sinh, cho biết lo lắng đã làm gián đoạn giấc ngủ của cô đến mức cần giúp đỡ y tế và giờ đây cô sợ hãi lễ tốt nghiệp của chính mình. Jane Doe 3 nói rằng cô luôn lo sợ rằng những người cô gặp có thể đã xem các hình ảnh đó rồi.

XAI không phản hồi yêu cầu bình luận, theo NPR.

📬 Đăng ký Nhận tin hàng ngày

Tin nhanh, miễn phí và thú vị về kinh tế toàn cầu, gửi mỗi sáng trong tuần.

Đăng ký cho tôi