ثلاثة مراهقين يقاضون xAI في الولايات المتحدة، متهمين Grok بإنشاء صور استغلال جنسي للأطفال

معلومات TechFlow العميقة، في 18 مارس، وفقًا لتقرير من صحيفة International Business Times، رفعت ثلاث فتيات مراهقات دعوى قضائية في المحكمة الفيدرالية بكاليفورنيا ضد شركة الذكاء الاصطناعي التابعة لإيلون ماسك، xAI، متهمة إياها بأن روبوت الدردشة Grok قام، دون موافقة الأطراف المعنية، بإنشاء صور استغلال جنسي للأطفال تتعلق بهن. تطالب الدعوى بتعويض مالي غير محدد، وتقديم أمر فوري بمنع Grok من الاستمرار في إنتاج مثل هذه المحتويات. اختارت الثلاثة المدعيات البقاء مجهولات الهوية، ومن بينهن اثنتان قاصرتان.

وتظهر الدعوى أن المستخدمين المعنيين استغلوا وظيفة معالجة الصور في Grok لتعديل صور المدعيات، وتحويلها إلى محتوى عاري أو عنف جنسي، ونشرها على خادم خاص على Discord، حيث شمل الضحايا على الأقل 18 قاصرًا. من بين المدعيات، اكتشفت بعد تلقي رسالة خاصة مجهولة على Instagram أن صورتها التخرج من المدرسة الثانوية قد تم تعديلها لتظهر بصورة ذات إيحاءات جنسية.

وأشار محامو المدعيات إلى أن شركة xAI كانت على علم بأن وظيفة “Grok Imagine” (التي تتضمن خيار “خلع الملابس”) يمكن أن تنتج مثل هذا المحتوى، ومع ذلك اختارت نشرها علنًا، بهدف زيادة عدد مستخدمي Grok ومنصات التواصل الاجتماعي مثل X. ووفقًا لتقرير من مركز مكافحة الكراهية الرقمية، فقد تم خلال أسبوعين من إطلاق هذه الوظيفة إنتاج أكثر من 20 ألف صورة ذات إيحاءات جنسية تتعلق بقاصرين.