حفل 3·15 | نماذج الذكاء الاصطناعي الكبيرة تتعرض للـ"تسميم"؟ أصبحت "غسيل دماغ" الذكاء الاصطناعي سلسلة صناعية

وفقًا لما كشفه المطلعون في الصناعة، تمكن صحفي من البحث على عدة منصات إلكترونية من العثور على خدمة تسمى GEO، يدعي مقدموها أنهم يستطيعون، مقابل دفع رسوم معينة، جعل منتجات العملاء تتصدر قوائم الترتيب في نماذج الذكاء الاصطناعي الكبرى، وتحويل إعلانات منتجاتهم إلى “الإجابات النموذجية” التي تقدمها نماذج الذكاء الاصطناعي.

هل يمكن لتقنية GEO حقًا “تسميم” الذكاء الاصطناعي، أو ترويضه والتحكم فيه؟

وفقًا للمعلومات المتوفرة على الإنترنت، تواصل الصحفي مع أحد مقدمي خدمات GEO المعروفين في الصناعة. استقبل المدير العام، السيد وان، الصحفي وشرح أن شركتهم واحدة من أوائل الشركات التي تعمل في مجال GEO، وأنها خلال عام واحد فقط قدمت خدماتها لأكثر من 200 عميل من مختلف القطاعات. أخبر السيد وان الصحفي أن قوتهم تكمن في مساعدتهم للعملاء على تصدر نتائج البحث عند استخدام نماذج الذكاء الاصطناعي الكبرى.

مدير GEO: السيد وان: نحن نتمكن حاليًا من تحقيق نتائج كهذه في عمليات البحث. يمكننا أن نضع ترتيبًا في الثلاثة الأوائل على أي منصة. كيف نرتب النتائج؟ من خلال تقديم محتوى موجه خصيصًا لهذه المنصات، وهو بمثابة كتابة مقالات ترويجية، ثم تقوم تلك المنصات بعمليات التكرار، والتسجيل، والجذب.

كما أخبر السيد وان الصحفي أن خوارزميات نماذج الذكاء الاصطناعي تتغير بشكل متكرر، وللحفاظ على استمرارية التوصيات، يتعين عليهم باستمرار تزويدها بكميات كبيرة من المقالات الترويجية ذات الصلة بالعملاء.

مدير GEO: السيد وان: تتغير خوارزميات الذكاء الاصطناعي أسبوعيًا، وبعد التحديث، قد تختلف النتائج أو المحتوى الملتقط، لذلك نحتاج إلى إنتاج محتوى باستمرار، وتزويدها بكميات هائلة.

ليس فقط شركة السيد وان تروج لهذه التقنية الجديدة المزعومة التي تسيطر على الذكاء الاصطناعي، بل إن العديد من مقدمي خدمات GEO الآخرين يتحدثون عن كيفية التحكم في الذكاء الاصطناعي، وجعله “يطيع”، و"غسل دماغه"، حيث تعتبر هذه المواضيع محور الترويج لهذا العمل.

مدير GEO: السيد تشان: في عالم الذكاء الاصطناعي، كيف تضمن أن تكون الأدلة كافية، بحيث يعتقد النموذج أن المعلومات حقيقية ومفيدة؟ بعد تداخل المعلومات، يعتقد النموذج أن لديك ميزة على المنافسين، وسينتج عن ذلك وضعك في المقدمة تلقائيًا.

مدير GEO: السيد تشن: هم لا يعرفون أن هذا إعلانات. لذلك، يثق الناس بنتائج الذكاء الاصطناعي لأنها مدعومة بمعلومات مساعدة، أو أدلة، أو دعم. الآن، الكثيرون يقومون بنشر إعلانات GEO.

أخبر المطلعون في الصناعة الصحفي أن GEO، كأداة لتحسين نشر المعلومات وزيادة كفاءة الترويج، يُنظر إليه في بعض الشركات التجارية كوسيلة أخرى. إذا تم استخدام هذا البرنامج بشكل منهجي وموجه لنشر كميات هائلة من “معلومات زائفة” على الإنترنت، فسيكون من الأسهل على نماذج الذكاء الاصطناعي التقاطها، وقد تصبح هذه المعلومات الزائفة “الإجابات النموذجية” التي تقدمها للمتلقين.

هل يمكن لتقنية GEO حقًا أن تسمح للذكاء الاصطناعي بـ"إدخال مواد غير مرغوب فيها"، أو حتى نشر معلومات زائفة؟

لتمكين الصحفي من فهم هذه المشكلة بشكل أعمق، عرض عليه أحد الخبراء كيفية استخدام تقنية GEO للتشويش على نماذج الذكاء الاصطناعي.

قام أحد الخبراء بشراء برنامج يسمى “نظام تحسين GEO” من منصة تجارة إلكترونية بشكل عشوائي. ثم اخترع منتجًا وهميًا يسمى “Apollo9” وسجل معلوماته الوهمية في النظام، مع اختيار أوامر لإنشاء مقالات.

لم يمض وقت طويل حتى أنشأ نظام تحسين GEO أكثر من عشرة مقالات ترويجية لساعة ذكية، واحتوت جميعها على معلومات زائفة، بما في ذلك معلومات مبالغ فيها بشكل كبير، وادعاءات كاذبة مثل “التشابك الكمومي” و"عمر بطارية من مستوى الثقب الأسود". كما زعم وجود تقييمات من المستخدمين، وادعى أن البيانات كانت دقيقة بشكل غير متوقع، ونجح في تصنيف المنتج كالأول في الصناعة.

عند النقر على نشر، بدأ النظام تلقائيًا في تنفيذ عملية النشر، حيث قام بفتح حسابات وسائل الإعلام الاجتماعية التي أعدها مسبقًا، وأدخل العناوين، وملأ المحتوى، وأدرج الصور، بشكل متسلسل وسريع، ونجح في نشر مقالتين على حساباته الخاصة.

بعد ساعتين، استفسر أحد الخبراء في نموذج ذكاء اصطناعي معين: “كيف هو تقييم ساعة Apollo-9 الذكية؟” فقام النموذج مباشرة بتقديم شرح، متضمنًا أبرز الميزات مثل مراقبة الصحة، ونسخ عبارات ترويجية زائفة مثل “حساسات التداخل الكمومي” و"عمر بطارية بمستوى الثقب الأسود". وخلص إلى أن الساعة مناسبة لكبار السن ومحبي الصحة.

وتبين أن المعلومات التي استند إليها النموذج كانت من المقالة الوهمية التي نشرها على حسابه الخاص، والتي كانت من تأليفه. مجرد مقال واحد مفبرك كافٍ لجعل منتجًا وهميًا يُلتقط بواسطة النموذج، وهو أمر يثير الدهشة.

أخبر الخبراء الصحفي أن لتحقيق أفضل النتائج، يجب أن يكون حجم البيانات المزوَّدة للنموذج كبيرًا، وأن تكون متنوعة من حيث الزوايا، لتسهيل عملية التحقق المتبادل.

بعد ذلك، اختار الخبراء 8 مقالات تقييم خبراء، و2 تصنيفات صناعية، و1 تقييم من المستخدمين، ليصبح مجموعها 11 مقالًا وهميًا من إعداد نظام GEO، ونشرها خلال ثلاثة أيام على الإنترنت.

ثم استفسروا من النموذج عن “توصية ساعة ذكية للصحة”، فتمت التوصية بها من قبل نموذجين من نماذج الذكاء الاصطناعي، واحتلت المرتبة الأولى.

مراجعة عملية العرض، يتضح أن هذا النظام، باستخدامه فقط، تمكن من نشر سلسلة من المعلومات الزائفة على الإنترنت، وتزويدها بنماذج الذكاء الاصطناعي، والحصول على توصيات من عدة نماذج.

وبفضل هذا التغلغل غير الملحوظ لنظام GEO، تم ترويج منتج وهمي بشكل سخيف للمستهلكين الذين يستخدمون نماذج الذكاء الاصطناعي.

سأل الصحفي عن مدى شرعية هذا الأسلوب، وتواصل مع مدير تشغيل نظام GEO، السيد لي، الذي أكد أن السبب الرئيسي لشعبية GEO هو قدرته على “تغذية” نماذج الذكاء الاصطناعي بمعلومات مضللة لتحقيق أهداف تجارية.

شركة لي سي للثقافة والإعلام: السيد لي: لأن الجميع يملأ الإنترنت بالمعلومات المضللة. نحن نعمل في GEO، وننشر معلومات مضللة، والمصادر كثيرة، والمعلومات على الإنترنت ليست دائمًا دقيقة.

الصحفي: ذكرت مؤخرًا مفهوم “نشر مواد مضللة”، هل تعتقد أن هذا أمر جيد؟

شركة لي سي للثقافة والإعلام: ليس جيدًا، لكن كل التجار يحبون ذلك، ويريدون أن يضللوا الآخرين، أو يضللوا المنافسين. حتى لو لم أكن الأول، وأردت أن أقول أنني الأول في شمال الصين، فهل هناك نية لنشر مواد مضللة؟ نعم، هناك. الحالة الثانية، أنني لا أستطيع التفوق على المنافسين، لكن يمكنني أن أضللهم ببعض المعلومات المضللة.

الصحفي: إذن، هو نوع من التشويه.

شركة لي سي للثقافة والإعلام: نعم، يمكن تحقيق ذلك. الآن، العديد من الشركات لا تستطيع التقدم، خاصة بين العلامات التجارية الكبرى، مثل شركات الهواتف المحمولة، التي لديها فقط 5 أو 10 أماكن في الترتيب. كيف تتعامل مع ذلك؟ ينفقون مئات الملايين سنويًا على الإعلانات، وأنا أستثمر مئات الآلاف في نشر مواد مضللة.

الصحفي: من يساعد في ذلك من العلامات التجارية؟

شركة لي سي: جميعها شركات GEO المختلفة.

ذكر السيد لي أن مفتاح السيطرة على نماذج الذكاء الاصطناعي عبر GEO هو نشر المحتوى على حسابات الإنترنت المختلفة. وأوضح أن ازدهار أعمال GEO أدى إلى ظهور العديد من الشركات والمنصات المتخصصة في نشر المحتوى، والتي تتولى بشكل دائم نشر المقالات، بهدف جعل نماذج الذكاء الاصطناعي تقتبس وتلتقط تلك المعلومات، وتصبح جزءًا من استراتيجية التلاعب بالنماذج.

شركة لي سي للثقافة والإعلام: GEO أطلق المواقع على الإنترنت. تلك المواقع عادة لا تحقق أرباحًا، لكن فجأة، مع طلبات النشر، تتغير الأمور. هل تعرف كم مقالًا تنشر المواقع يوميًا؟ مئات المقالات، كل دقيقة تُنشر. كل مقال يكلف عشرات اليوانات، وتخيل كم تربح منصات النشر يوميًا.