فيديوهات الذكاء الاصطناعي لنساء سوداء جنسيات تم حذفها من تيك توك بعد تحقيق بي بي سي

قبل 45 دقيقة

مشاركة حفظ

شريهان الأخرسبي بي بي سي نيوز العربية

مشاركة حفظ

ريا أولان (يسار) / إنستغرام (يمين)

لاحظت ريا أولان (يسار) أن فيديوها تم التلاعب به لعرض شخصية رقمية مولدة بواسطة الذكاء الاصطناعي (يمين)

حظرت تيك توك 20 حسابًا بعد أن سلطت بي بي سي الضوء على استخدام مؤثرات سوداء مولدة بواسطة الذكاء الاصطناعي لجذب المستخدمين إلى مواقع تروج لمحتوى جنسي صريح.

وهي جزء من اتجاه متزايد من الحسابات على إنستغرام وتيك توك التي تعرضت لانتقادات باعتبارها عنصرية واستغلالية ومضللة بسبب الصور النمطية العرقية واللغة المستخدمة.

وجدت بي بي سي والباحثون من منشور الذكاء الاصطناعي المستقل ريدنس، العشرات من الحسابات على المنصتين تحتوي على شخصيات أو صور رمزية رقمية سوداء ذات طابع جنسي مرتفع.

تم توليد الصور والفيديوهات بواسطة الذكاء الاصطناعي ولكن لم يتم تصنيفها على أنها كذلك، مما يخالف على ما يبدو إرشادات المنصات.

تقريبًا جميع الحسابات كانت على إنستغرام، وثلثها تقريبًا كان لديه نسخ على تيك توك. أخبرت شركة ميتا، مالكة إنستغرام، بي بي سي أنها تحقق في الأمر، لكنها لم تذكر أنها اتخذت أي إجراء.

غالبًا ما تظهر الصور الرمزية مرتدية ملابس سباحة ضيقة أو ملابس مكشوفة أخرى، وتُصوّر بأشكال جسم مبالغ فيها.

بعضها يمتلك درجات لون بشرة داكنة جدًا تم التلاعب بها رقميًا، مما يمنحها مظهرًا اصطناعيًا.

تشمل أسماء الحسابات كلمات مثل “أسود”، “نوار”، “مظلم” و"إيبوني". وتحتوي العديد منها على تعليقات حول الرجال البيض في منشوراتها، مثل “يحب الرجال البيض” و"لماذا أحتاج إلى رجل أبيض في حياتي". يتابع العديد من الحسابات أو يعجب بها بعضها البعض.

عملت بي بي سي بالتعاون مع المحللين جيريمي كاراسكو وأنجيل نولاني من ريدنس، على تحديد 60 حسابًا من هذا النوع، معظمها على إنستغرام، تحتوي على روابط أو سلاسل روابط لمحتوى جنسي مدفوع على مواقع طرف ثالث. وصفت المواقع الصور بأنها مولدة بواسطة الذكاء الاصطناعي، لكن حسابات إنستغرام لم تفعل.

كما حددت الدراسة العديد من الحسابات الأخرى على كل من إنستغرام وتيك توك تحتوي على صور رمزية مولدة بواسطة الذكاء الاصطناعي مماثلة، ولم ترتبط بمحتوى مدفوع.

‘كنت غاضبة’

واحد من الحسابات التي أغلقتها تيك توك - رغم أنه لا يزال يعمل على إنستغرام وقت النشر - أثار المزيد من الغضب بسرقته لمقاطع فيديو من أشخاص حقيقيين.

يُقدم على أنه حساب شخصية رقمية مولدة بواسطة الذكاء الاصطناعي لافتة، وقد جمع ثلاثة ملايين متابع خلال أسابيع قليلة من إنشائه في ديسمبر.

لكنها عدلت ونشرت مقاطع فيديو من منشئ محتوى حقيقي، ريا أولان، عارضة أزياء مقرها ماليزيا.

وجه الشخصية الرقمية، التي تمتلك لون بشرة داكن جدًا تم إنشاؤه رقميًا، على جسم ريا، وتكررت حركاتها وملابسها وخلفيتها.

قالت ريا لبي بي سي: “كنت غاضبة. بالطبع مقاطعي موجودة على الإنترنت… هذا لا يعني أنه يمكنك فقط أخذها وسرقتها ونشرها على أنها ملكك.”

إنستغرام

بعض الحسابات - بما في ذلك الذي سرق محتوى ريا - ترفض الادعاءات بأنها مولدة بواسطة الذكاء الاصطناعي

وصل أحد الفيديوهات المعدلة إلى أكثر من 35 مليون مشاهدة على تيك توك و173 مليون على إنستغرام، أي حوالي 47 مرة عدد المشاهدات على منشور ريا الأصلي.

بينما لا تتطابق الثلاثة فيديوهات التي تتطابق بوضوح مع محتوى ريا مع المحتوى الجنسي، تظهر فيديوهات أخرى على الحساب باستخدام نفس الشخصية الرقمية في ملابس مكشوفة أو تؤدي أفعالًا مثيرة. تؤدي سلسلة من الروابط من الحساب إلى محتوى للبالغين مدفوع.

قالت ريا: “لست متأكدة إذا كنت أكثر قلقًا من أنهم أخذوا فيديوي للترويج لمحتواهم الصريح أو أن الناس يصدقون ذلك فعلاً.”

يصبح من الصعب على المستخدمين التمييز بين المحتوى الحقيقي والمزيف، وتقول إن “الناس يستمرون في الوقوع في فخ هذه النماذج الذكية”.

يبدو أن العديد من المشاهدين يعاملون الصور الرمزية على أنها حقيقية، رغم ميزاتها غير الواقعية. في منشورات أو قصص إنستغرام، تنكر بعض الحسابات استخدام الذكاء الاصطناعي، بما في ذلك الحساب الذي سرق محتوى ريا.

قالت ريا إنها أبلغت عن الحساب على كلا المنصتين عدة مرات، لكن في ذلك الوقت لم يُحذف المحتوى. حظرته تيك توك بعد أن تواصلت معه بي بي سي لطلب تعليق.

‘تصوير غير واقعي’

قالت نولاني، إحدى الباحثات، إن “هذه الحسابات عنصرية لأنها تكرس تاريخًا طويلًا من استغلال السود”.

وأضافت: “استخدامهم للكاريكاتيرات، ومصطلحات اللعب بالعرق، والتصوير غير الواقعي للنساء السوداء يثبت أنهم غير مهتمين بسلامتنا أو رفاهيتنا، بل بقدرتنا على أن نكون جزءًا من آلة الإباحية على الإنترنت.”

قال كاراسكو، الذي ينتقد اتجاهات وتقنيات الذكاء الاصطناعي على حساباته على وسائل التواصل الاجتماعي، “الشيء الجديد هو كمية التصويرات العنصرية والجريئة للأشخاص السوداء جدًا”.

ورغم أن “هذا الفتيش” قد يكون موجودًا في الماضي، يقول إن الذكاء الاصطناعي “يعطيه زخمًا جديدًا”. يوضح أن الذكاء الاصطناعي يسهل إزالة الظلال في الصور والفيديوهات لإنشاء درجات لون بشرة داكنة غير طبيعية، وخلق تأثيرات كانت تتطلب سابقًا الرسوم المتحركة أو تلوين البشرة.

ويضيف أن لا عواقب اجتماعية على الصورة الرمزية: “لا يوجد خجل… هذا شيء يستغله الذكاء الاصطناعي بشكل فريد.”

هدى فونون / بوشيك

تقول منشئة المحتوى هدى فونون إنها تخشى أن يتم استبدال الانعكاسات الرقمية للحياة الحقيقية بصور اصطناعية.

تقول هدى، عارضة أزياء ومبدعة محتوى مغربية تدعو لتمثيل أكثر أصالة للنساء السود، إن الاتجاه هو “محو”.

وتضيف: “الشعر الحريري، والأجسام النحيلة جدًا، والبشرة الخالية من العيوب… كأنه لا يمكن قبول جمال السود إلا عندما يكون ‘مكررًا’.”

وتقول إن ذلك يهدد بتعزيز الصور النمطية بينما “تُستبدل قصصنا وتجاربنا الحياتية بصورة اصطناعية”.

أرسلت بي بي سي أمثلة من الحسابات التي حددناها إلى ميتا وتيك توك، وطلبت ردودهما.

بعد يومين، أخبر متحدث باسم تيك توك بي بي سي أن الشركة “حذفت المحتوى وحظرت الحسابات التي تنتهك قواعدنا”.

خلال بضعة أيام، تم تصنيف 20 حسابًا على التطبيق على أنها “محظورة”.

قال المتحدث: “تيك توك يمنع المحتوى المولد بواسطة الذكاء الاصطناعي للأشخاص المستخدمين بدون إذن منهم، ولدينا سياسة صارمة ضد المحتوى الذي يروج للخدمات الجنسية خارج المنصة.”

وتقول الشركة إنها تمنع وتزيل المحتوى المولد بواسطة الذكاء الاصطناعي الذي يكون ضارًا أو مضللًا، وتطلب من المستخدمين تصنيف المحتوى المولد بواسطة الذكاء الاصطناعي بشكل واضح. وأضافت أنها طبقت تصنيفات صحيحة لعدد من الفيديوهات.

قالت ميتا إنها تحقق في المحتوى الذي أُبلغت عنه.

وتقول إنها تريد من المستخدمين أن يعرفوا عندما يشاهدون منشورات تم إنشاؤها بواسطة الذكاء الاصطناعي، وأن لديها سياسات لتصنيف المحتوى المولد بواسطة الذكاء الاصطناعي. ويبدو أن تسعة حسابات على إنستغرام التي تتبعها بي بي سي لم تعد موجودة.

لم تقدم أي من المنصتين تفاصيل حول ردودهما على التقارير الأولية لريا.