تم حظر عشرات تطبيقات الذكاء الاصطناعي لـ «تعرية» الأشخاص على App Store و Google Play - ForkLog: العملات المشفرة، الذكاء الاصطناعي، التفرد، المستقبل

# في متجر App Store و Google Play تم حظر عشرات تطبيقات الذكاء الاصطناعي لـ «كشف العري»

تُعرض في متاجر تطبيقات Apple و Google عشرات تطبيقات nudify التي تتيح تصوير الأشخاص وإنشاء صور عارية لهم باستخدام الذكاء الاصطناعي. وأبلغ الخبراء في TTP عن ذلك.

خلال عملية التحقق، اكتشفت التحليلات 55 تطبيقًا في Google Play و 47 في App Store. تواصلوا مع ممثلي الشركات لإزالة الخدمات. أزالت Apple 28 أداة nudify من المتجر وحذرت المطورين من احتمال حذف منتجاتهم في حال مخالفة القواعد.

تم استعادة تطبيقين بعد حل جميع المشاكل لاحقًا.

أفاد ممثل Google أن الشركة أوقفت عمل عدة برامج. تجري الشركة تحقيقات بعد تلقي مثل هذه الرسائل.

«تؤكد كل من الشركتين أنهما تهتمان بسلامة المستخدمين، لكنهما تضعان في متاجرها تطبيقات يمكن أن تحول صورة بريئة لامرأة إلى صورة مسيئة ذات طابع جنسي»، كتب خبراء TTP في تقريرهم.

لقد اكتشفوا التطبيقات من خلال البحث عن مصطلحات «nudify» و «undress»، واختبرواها باستخدام صور الذكاء الاصطناعي. ضمن إطار التجربة، حللوا نوعين من الخدمات:

• تلك التي تستخدم الذكاء الاصطناعي لإنشاء صور فتيات عاريات؛
• أخرى تضع وجوه الأشخاص على صور فاضحة.

«من الواضح تمامًا أن هذه ليست مجرد تطبيقات لـ “تغيير الملابس”. فهي مصممة بشكل واضح لتجنيد الناس جنسيًا دون موافقتهم»، قالت مديرة TTP كاتي بول.

أبلغ المحللون أن 14 من البرامج أنشئت في الصين.

«تشير قوانين جمهورية الصين الشعبية بشأن تخزين البيانات إلى أن الحكومة لها الحق في الوصول إلى معلومات أي شركة في أي مكان في البلاد. لذلك، إذا أنشأ أحدهم ديبفايك باستخدام صورتك، فهي الآن في أيدي السلطات»، أضافت بول.

الذكاء الاصطناعي والضرر

جعل الذكاء الاصطناعي من السهل جدًا «كشف العري» للفتيات وإنشاء ديبفايك بورنو. في يناير، تورط روبوت الدردشة Grok في فضيحة بسبب وظيفة مماثلة. لاحقًا، أوقفت الشركة توليد صور فاضحة لأشخاص حقيقيين.

في أغسطس 2024، قدم مكتب المدعي العام لمدينة سان فرانسيسكو، بقيادة ديفيد تشيو، دعوى ضد مالكي 16 من أكبر مواقع الويب في العالم التي تتيح «كشف عري» النساء والفتيات على الصور باستخدام الذكاء الاصطناعي دون موافقتهن.

تذكر الوثيقة انتهاك قوانين الدولة والفدرالية المتعلقة بديبفايك بورنو، وبورنو الانتقام، والمواد المتعلقة بالعنف الجنسي ضد الأطفال.

«الذكاء الاصطناعي التوليدي لديه آفاق واسعة، ولكن، كما هو الحال مع جميع التقنيات الجديدة، هناك عواقب غير متوقعة ومجرمون يسعون لاستغلال التكنولوجيا الجديدة لمصالحهم. يجب أن نفهم بوضوح أن هذا ليس ابتكارًا — إنه عنف جنسي»، قال تشيو.

تقدم المواقع المعنية واجهات سهلة لتحميل الصور لإنشاء نسخ بورنو واقعية. فهي تكاد تكون غير مميزة عن الصور الحقيقية، وتستخدم للابتزاز، والتهديد، والإهانة، وفقًا للبيان.

نذكر أنه في سبتمبر 2024، أعلنت شركة Microsoft عن شراكة مع منظمة StopNCII لمكافحة ديبفايك بورنو في محرك البحث Bing.