إعلان لتطبيق تحرير الذكاء الاصطناعي الذي قال إنه يمكنه “إزالة أي شيء” تم حظره

قبل 9 ساعات

مشاركة حفظ

دانييل توماس، كبير مراسلي التكنولوجيا

مشاركة حفظ

Getty Images

تم حظر إعلان لأداة تحرير الفيديو والصور التي أوحت للمشاهدين بإمكانية إزالة ملابس امرأة رقميًا من قبل هيئة الإعلان في المملكة المتحدة.

ظهر الإعلان على يوتيوب لـ PixVideo - صانع الفيديو بالذكاء الاصطناعي، الذي عُرض في يناير، وصور “قبل” و"بعد" لامرأة شابة، مع خطوط حمراء مرسومة على بطنها في الصورة الأولى، وأجزاء من بشرتها العارية مكشوفة في الصورة الثانية.

كتب أسفل الصورة: “امسح أي شيء” يليه رمز وجه القلب.

اشتكى ثمانية أشخاص إلى هيئة معايير الإعلان (ASA) من أن الإعلان جنّس المرأة واعتبرها موضوعًا، وكان غير مسؤول ومهين وضار.

ليس من الواضح ما إذا كانت الصورة في الإعلان لامرأة حقيقية أم أنها مولدة بواسطة الذكاء الاصطناعي، وأخبرت هيئة ASA BBC أن تقييم ذلك لم يكن جزءًا من تحقيقها.

قالت الهيئة إن PixVideo لم تسمح لمستخدميها بإزالة الملابس من الصور الرقمية لإنشاء محتوى فاحش، لكن المشاهدين قد يكونون حصلوا على انطباع بأنه يفعل ذلك.

قالت الهيئة في بيان: “نظرًا لأن الإعلان أوحى للمشاهدين بإمكانية استخدام تطبيق لإزالة ملابس امرأة، اعتبرناه يساند التعديل الرقمي وكشف عن أجسام النساء دون موافقتهن”.

وأضافت أن الإعلان كان “غير مسؤول، واحتوى على نمط جنسي ضار، ومن المحتمل أن يسبب إهانة خطيرة”.

قالت شركة Saeta Tech، مالكة PixVideo، إنها تفهم سبب احتمال أن يسبب الإعلان إهانة، لكنها ألقت اللوم على طريقة عرضه ورسائله، وليس على الاستخدام المقصود لمنتجها.

وأوضحت أنها تمنع إنشاء محتوى عاري أو فاحش جنسيًا، ولديها أدوات كشف وحظر تلقائية لمنع توليد مثل هذه الصور.

وافقت الشركة على عدم عرض الإعلان مرة أخرى وعلقت جميع الإعلانات أثناء إجراء مراجعة داخلية.

ظهرت قضية التطبيقات التي “تزيل الملابس” عن النساء والفتيات بدون موافقتهن في العناوين في يناير، عندما استُخدم روبوت الدردشة Grok الخاص بإيلون ماسك لملء منصة X بصور جنسية.

بعد رد فعل عالمي، قام ماسك لاحقًا بحظر Grok من توليد مثل هذه الصور في المناطق التي يُعد فيها ذلك غير قانوني، لكن X لا تزال تواجه تحقيقات ودعاوى قضائية حول العالم.

أعلنت الحكومة البريطانية في ديسمبر أنها ستجعل من غير القانوني إنشاء وتوفير أدوات ذكاء اصطناعي تتيح للمستخدمين تحرير الصور لإزالة ملابس شخص ما بشكل ظاهري.

ستبني الجرائم الجديدة على القوانين الحالية المتعلقة بالفيديوهات المزيفة الجنسية العميقة وإساءة استخدام الصور الحميمة.