حفل 3·15 | نماذج الذكاء الاصطناعي الكبيرة تتعرض للـ"تسميم"؟ أصبحت "غسيل دماغ" الذكاء الاصطناعي سلسلة صناعية

وفقًا لتسريبات من داخل الصناعة، تمكن مراسل من العثور على خدمة تسمى GEO عبر عدة منصات إلكترونية، يدعي مقدموها أنهم يستطيعون جعل منتجات العملاء تتصدر قوائم البحث في نماذج الذكاء الاصطناعي الكبرى، وتحويل إعلانات منتجاتهم إلى “الإجابة النموذجية” التي تقدمها نماذج الذكاء الاصطناعي.

هل يمكن لتقنية GEO حقًا “تسميم” الذكاء الاصطناعي، أو “ترويضه” والتحكم فيه؟

وفقًا للمعلومات المتوفرة على الإنترنت، تواصل المراسل مع أحد مقدمي خدمات GEO المعروفين في الصناعة. استقبل المدير العام وان، الذي قدم نفسه على أنه من أوائل من عملوا في مجال GEO، وأوضح أن شركته خدمت أكثر من 200 عميل خلال عام واحد، من مختلف القطاعات. قال وان إن قوتهم تكمن في مساعدتهم للعملاء على تصدر نتائج البحث عند استخدام نماذج الذكاء الاصطناعي الكبرى.

**مدير خدمة GEO: **نحن نتمكن حاليًا من تحقيق نتائج كهذه في عمليات البحث. يمكننا أن نضع ترتيبًا في الثلاثة الأوائل على أي منصة. كيف نحقق ذلك؟ من خلال تقديم محتوى موجه خصيصًا لهذه المنصات، وهو بمثابة كتابة مقالات ترويجية، ثم يتم تكرارها وتسجيلها بواسطة منصات الذكاء الاصطناعي.

كما أخبر وان المراسل أن خوارزميات نماذج الذكاء الاصطناعي تتغير بشكل متكرر، وللحفاظ على استمرارية التوصيات، يتعين عليهم باستمرار تزويدها بمحتوى ترويجي مرتبط بالعملاء.

**مدير خدمة GEO: **تتغير خوارزميات الذكاء الاصطناعي أسبوعيًا، وبعد كل تحديث، قد تتغير نتائج التصنيف أو المحتوى الملتقط، لذلك نحتاج إلى إنتاج محتوى بشكل مستمر، وتزويدها بكميات كبيرة.

ليس فقط شركة وان تروج لهذه التقنية الجديدة المزعومة للتحكم في الذكاء الاصطناعي، بل إن شركات أخرى تقدم خدمات GEO تتحدث عن كيفية السيطرة على الذكاء الاصطناعي، وجعله “يطيع”، و"غسل دماغه"، وهو موضوع رئيسي في ترويجهم لهذه الخدمة.

**مدير خدمة GEO: **في عالم الذكاء الاصطناعي، كيف تضمن أن تكون الأدلة كافية، وأن يشعر النموذج أن المعلومات صحيحة وذات فائدة؟ بعد تداخل المعلومات، يعتقد النموذج أن لديك ميزة على المنافسين، وسيوضعك في المقدمة بشكل طبيعي.

**مدير خدمة GEO: **هم لا يعرفون أن هذا إعلانات. لذلك، يثق الناس بنتائج الذكاء الاصطناعي، رغم أن جودة منتجاتهم قد لا تكون عالية، إلا أن الذكاء الاصطناعي يساعد في دعمها وتأكيدها. الآن، الكثير من الناس يستخدمون GEO للإعلانات.

أخبرت مصادر الصناعة المراسل أن GEO، كأداة لتحسين نشر المعلومات وزيادة كفاءة الترويج، اكتشفت لها وظائف أخرى. إذا تم استخدام هذا البرنامج لنشر كميات هائلة من “معلومات زائفة” بشكل منهجي وموجه على الإنترنت، فسيكون من الأسهل على نماذج الذكاء الاصطناعي التقاطها، وقد تصبح هذه المعلومات الكاذبة “الإجابات النموذجية” التي تقدمها للمتلقين.

هل يمكن لتقنية GEO حقًا أن “تدخل موادًا غير مرغوب فيها” أو تنشر معلومات زائفة على الذكاء الاصطناعي؟

لتمكين المراسل من فهم هذه المشكلة بشكل أعمق، عرض خبراء الصناعة بشكل عملي كيفية استخدام تقنية GEO للتشويش على نماذج الذكاء الاصطناعي.

قام أحد خبراء الصناعة بشراء برنامج يسمى “نظام تحسين GEO” من منصة تجارة إلكترونية بشكل عشوائي. ثم اخترع منتجًا وهميًا باسم Apollo9، وهو سوار ذكي، وأدخل معلومات المنتج الوهمية إلى النظام، مع اختيار أوامر لإنشاء مقالات ترويجية.

بعد فترة قصيرة، أنشأ النظام أكثر من عشرة مقالات ترويجية للسوار الذكي، واحتوت جميعها على معلومات زائفة، بما في ذلك معلومات مبالغ فيها بشكل كبير، وادعاءات وهمية مثل “الارتباط الكمومي” و"طاقة سوداء"، بالإضافة إلى تقييمات زائفة زعمت أن المنتج يتفوق على المنافسين، واحتل المركز الأول في السوق.

عند النقر على نشر، بدأ النظام تلقائيًا في تنفيذ عملية النشر، حيث فتح حسابات وسائل الإعلام الاجتماعية التي أعدها مسبقًا، وأدخل العناوين، وملأ المحتوى، وأدرج الصور، وأتم العملية بسرعة، ونجح في نشر مقالتين على حساباته.

بعد ساعتين، استفسر أحد خبراء الصناعة عن “آراء حول سوار Apollo-9”. فاستجاب النموذج الذكي مباشرة، وذكر أن أبرز ميزاته هي وظيفة مراقبة الصحة، ونسخ بشكل مباشر عبارات ترويجية وهمية مثل “الارتباط الكمومي” و"بطارية ذات عمر غير مسبوق"، وخلص إلى أن المنتج مناسب لكبار السن ومحبي الصحة.

وتبين أن المعلومات التي استند إليها النموذج كانت من المقال الوهمي الذي نُشر على حساب وسائل التواصل الاجتماعي الخاص بالخبير في الصباح. مجرد مقال واحد مختلق كان كافيًا لتمكين النموذج من التقاط منتج وهمي تمامًا، وهو أمر يثير الدهشة.

قال خبراء الصناعة إن لتحقيق أفضل النتائج، يجب أن يكون حجم البيانات المزوَّدة للنموذج كبيرًا، وأن تكون الزوايا متنوعة، لتسهيل عملية التحقق المتبادل.

بعد ذلك، اختار الخبير ثمانية مقالات تقييم من خبراء، ومقالين تصنيف صناعي، ومقال تقييم من المستخدمين، ليصبح إجمالي 11 مقالًا من تأليف نظام GEO، ونشرها خلال ثلاثة أيام على الإنترنت.

ثم استفسر من خلال منصة النموذج الذكي عن “توصية بسوار صحي ذكي”، فتمت التوصية من قبل نموذجين ذكاء اصطناعيين، وكلاهما اقترح المنتج الوهمي، واحتل مراكز متقدمة في الترتيب.

مراجعة عملية العرض بأكملها، يظهر أن الخبير استطاع باستخدام نظام GEO أن ينشر بسهولة سلسلة من المعلومات الزائفة على الإنترنت، ويقوم بتزويدها لنماذج الذكاء الاصطناعي، وفي النهاية، حصل على توصيات من عدة نماذج ذكاء اصطناعي.

وبفضل هذا النظام، تم خداع نماذج الذكاء الاصطناعي بشكل غير ملحوظ، وتم دفع المنتج الوهمي بشكل سخيف إلى المستهلكين الذين يستخدمون نماذج الذكاء الاصطناعي.

هل حقًا يعمل مقدمو خدمات GEO على التحكم في نماذج الذكاء الاصطناعي بهذه الطريقة؟ تواصل المراسل مع المدير التنفيذي لنظام GEO، السيد لي، الذي أكد أن السبب الرئيسي لشعبية خدمة GEO هو قدرتها على “تغذية” نماذج الذكاء الاصطناعي بمعلومات مضللة لتحقيق أهداف تجارية.

**شركة لي سي للثقافة والإعلام: **لأن الجميع يملأ الإنترنت بالمعلومات المضللة. نحن نعمل على GEO، وننشر معلومات مضللة، والمصادر كثيرة، والمعلومات على الإنترنت ليست دائمًا دقيقة.

**المراسل: **ذكرت أنك تتحدث عن “تسميم” المعلومات، أليس ذلك غير أخلاقي؟

**السيد لي: **صحيح، لكنه شائع بين التجار، والجميع يفضل أن يملأ الآخرون بالمعلومات المضللة، ويقوم هو نفسه بذلك. حتى لو كنت الأول في السوق، أريد أن أكون “الأول في شمال الصين”. هل هناك نية لتسميم المنافسين؟ بالتأكيد. الحالة الثانية، أنني لا أستطيع التفوق عليهم، لكن يمكنني أن أضع لهم “سمًا” بسيطًا.

**المراسل: **أي ترويج سلبي؟

**السيد لي: **نعم، يمكن ترويج سلبي. الآن، العديد من الشركات لا تستطيع التقدم، خاصة بين العلامات التجارية الكبرى، مثل شركات الهواتف، التي لديها 5 أو 10 أماكن فقط. كيف يمكنهم التنافس؟ ينفقون مئات الملايين سنويًا على الإعلانات، ويمكنني أن أستثمر بضع مئات الآلاف في “سم” بسيط.

**المراسل: **من يساعد هذه العلامات التجارية على ذلك؟

**السيد لي: **جميعها شركات GEO المختلفة.

قال السيد لي إن مفتاح السيطرة على نماذج الذكاء الاصطناعي عبر GEO هو نشر المحتوى على حسابات الإنترنت المختلفة. وأوضح أن ازدهار خدمة GEO أدى إلى ظهور العديد من الشركات والمنصات المتخصصة في نشر المحتوى، والتي تتولى بشكل دائم نشر المقالات بهدف جعل نماذج الذكاء الاصطناعي تلتقطها وتستخدمها، كجزء من استراتيجية خداع نماذج الذكاء الاصطناعي وتسميم البيانات.

**شركة لي سي للثقافة والإعلام: **GEO أطلق المواقع على النار. تلك المواقع عادة لا تحقق أرباحًا، لكن فجأة طلبات النشر زادت. هل تعرف كم تنشر المواقع يوميًا؟ مئات المقالات، كل دقيقة مقال جديد. كل مقال يكلف عشرات الريالات، وتخيل كم تربح منصات النشر يوميًا.