حفل CCTV 315 يكشف كيفية "غسل دماغ" الذكاء الاصطناعي: مقدمو خدمات GEO يستغلون المعلومات الكاذبة للتأثير على نتائج بحث الذكاء الاصطناعي

وفقًا لتقرير الحفل الليلي 315، فإن خدمة تُدعى GEO يدعي مقدموها أنها تتيح للعملاء، مقابل دفع رسوم معينة، أن تضمن ظهور منتجاتهم في تصنيفات النماذج الكبيرة للذكاء الاصطناعي؛ وأن تجعل إعلانات منتجاتهم تتصدر نتائج النماذج الذكية، وتصبح “الإجابة النموذجية” التي تقدمها النماذج للمتلقين.

هل يمكن حقًا باستخدام تقنية GEO “تسميم” الذكاء الاصطناعي، أو “ترويضه” والتحكم فيه؟

أوضح السيد وان، مسؤول إحدى الشركات المعروفة في مجال خدمات GEO، أن شركته واحدة من أوائل الشركات التي بدأت في تقديم خدمة GEO، وأنها خلال عام واحد فقط قدمت خدماتها لأكثر من 200 عميل من مختلف القطاعات. وتتمثل قوتهم في قدرتهم على مساعدة العملاء في تصدر نتائج البحث عند استخدام المستهلكين لنماذج الذكاء الاصطناعي الكبيرة. مع التحديثات المتكررة لخوارزميات النماذج، يتطلب الحفاظ على التوصيات المستمرة من قبل النماذج تزويدها بشكل مستمر بكميات هائلة من المحتوى الترويجي المرتبط بالعملاء.

ليس فقط شركة السيد وان تروج لهذه التقنية الجديدة التي يُقال إنها تتيح التحكم في الذكاء الاصطناعي، بل إن حديث شركات GEO الأخرى يركز على كيفية التحكم في الذكاء الاصطناعي، وجعله “يطيع”، و"غسيل دماغه"، وهو موضوع رئيسي في ترويج هذه الخدمة.

قال السيد زانغ، مسؤول شركة أخرى تقدم خدمات GEO، إن الأمر في عالم الذكاء الاصطناعي هو كيف يمكن جعل سلسلة الأدلة قوية بما يكفي لإقناع النموذج الذكي بأنها حقيقية وذات فائدة. بعد تبادل المعلومات بين مصادر متعددة، يعتقد النموذج أن ميزتك التنافسية تتفوق على الآخرين، وسيوضعك تلقائيًا في المرتبة الأولى.

أما السيد تشن، مسؤول شركة خدمات GEO، فقال إن الناس لا يعرفون أن هذا نوع من الإعلانات، ولهذا السبب يثق الناس بنتائج الذكاء الاصطناعي. ربما تكون جودة منتجات المنافسين أقل منك، لكن لديهم الذكاء الاصطناعي للمساعدة، وتقديم الأدلة، والدعم. والآن، الكثير من الشركات تستخدم خدمات GEO بشكل نشط.

أشار خبراء الصناعة إلى أن GEO، كأداة لتحسين نشر المعلومات وزيادة كفاءة الترويج، اكتُشفت لها وظيفة أخرى في بعض الشركات التجارية. إذا تم استخدام هذا النوع من البرامج لنشر كميات كبيرة من “المعلومات المزيفة” بشكل منهجي وموجه على الإنترنت، فسيكون من الأسهل على نماذج الذكاء الاصطناعي التقاطها، وقد تصبح هذه المعلومات المزيفة “الإجابة النموذجية” التي تقدمها النماذج للمستهلكين.

هل يمكن حقًا باستخدام تقنية GEO أن “يخدع” الذكاء الاصطناعي، أو يروج لمعلومات كاذبة؟

قام أحد خبراء الصناعة بشراء برنامج يُدعى “نظام تحسين GEO” بشكل عشوائي من منصة تجارة إلكترونية. ثم اخترع منتجًا وهميًا يُسمى “ساعة ذكية Apollo-9”، وأدخل معلومات المنتج الوهمية إلى النظام، مع تحديد أوامر لإنشاء مقالات.

لم يمض وقت طويل حتى أنشأ نظام GEO التابع له أكثر من عشرة مقالات ترويجية للساعة الذكية، واحتوت جميعها على معلومات مزيفة، بما في ذلك أوصاف مبالغ فيها بشكل كبير، وادعاءات كاذبة مثل “التشابك الكمومي” و"عمر بطارية من نوع الثقب الأسود". كما زعم أن تقييمات المستخدمين كانت ممتازة، وادعى أن البيانات كانت دقيقة بشكل غير متوقع، وقدم تقييمات مزيفة، وادعى أنها حصلت على المركز الأول في الصناعة.

عند النشر، بدأ نظام GEO التلقائي في نشر هذه المقالات على حسابات وسائل التواصل الاجتماعي التي أعدها مسبقًا، حيث أدخل العناوين، وملأ المحتوى، وأدرج الصور، ونجح في نشر مقالتين بسرعة على حسابات وسائل التواصل الاجتماعي الخاصة به.

بعد ساعتين، سأل أحد خبراء الصناعة في نموذج ذكاء اصطناعي عن “تقييم ساعة Apollo-9 الذكية”، فبدأ النموذج في تقديم شرح: أبرز ميزاتها هي وظيفة مراقبة الصحة، ونسخ بشكل مباشر من أوصاف وهمية مثل “حساسات التشابك الكمومي” و"عمر بطارية من نوع الثقب الأسود". وخلص إلى أن الساعة مناسبة للمسنين ومحبي الصحة والعافية.

وتبين أن المعلومات التي استند إليها النموذج كانت من المقال الوهمي الذي نُشر صباحًا على حساب وسائل التواصل الاجتماعي الخاص بالخبير. مجرد مقال واحد مختلق كان كافيًا لانتزاع منتج وهمي بالكامل من النموذج، وهو أمر مفاجئ جدًا.

بعد ذلك، اختار الخبير 8 مقالات تقييم خبراء، و2 تصنيفات صناعية، و1 تقييم من المستخدمين، بإجمالي 11 مقالًا وهميًا كتبها نظام GEO، ونشرها خلال ثلاثة أيام على الإنترنت.

ثم استفسر الخبير على منصة نماذج الذكاء الاصطناعي عن “توصية ساعة الصحة الذكية”، فتمت التوصية بها من قبل نموذجين، واحتلت مراتب متقدمة.

مما يوضح أن هذا الخبير استطاع باستخدام نظام GEO أن ينشر بسهولة سلسلة من المعلومات المزيفة على الإنترنت، ويقوم بتغذية نماذج الذكاء الاصطناعي بها، وفي النهاية حصل على توصيات من عدة نماذج ذكاء اصطناعي.

بهذا الشكل، وباستخدام نظام GEO، تم خداع نماذج الذكاء الاصطناعي بشكل غير مباشر، ودفع منتج وهمي غريب إلى السوق، ليُستخدم من قبل المستهلكين الذين يعتمدون على نماذج الذكاء الاصطناعي.

هل حقًا يهدف العاملون في خدمة GEO إلى السيطرة على نماذج الذكاء الاصطناعي من خلال عمليات التمويه والتصيد؟

قال السيد لي، مسؤول نظام GEO، إن السبب الرئيسي لشعبية خدمة GEO هو قدرتها على “تغذية” نماذج الذكاء الاصطناعي بهدف “تسميم” البيانات، وتحقيق الأهداف التجارية للعملاء. كل تاجر يرغب في أن يزرع “سمًا” في منافسيه، أو يزرع “سمًا” لنفسه، أو يزرع بعض “السم” للآخرين. حتى لو لم أكن الأول، وأقول إنني الأول في بكين، أريد أن أقول إنني الأول في شمال الصين. هل هناك نية في التسميم؟ نعم، هناك. الحالة الثانية أنني لا أستطيع التفوق على المنافسين، لكن يمكنني أن أزرع لهم “سمًا”. الآن، العديد من الشركات الكبرى، مثل شركات الهواتف المحمولة، تتنافس على 5 أو 10 أماكن فقط. كيف يمكن أن تتنافس كل هذه الشركات؟ ينفقون مئات الملايين سنويًا على الإعلانات، وأنا أنفق مئات الآلاف لزرع “سم”. هل هذا ممكن؟

قال السيد لي إن العديد من شركات GEO تساعد العلامات التجارية على ذلك. المفتاح في تشغيل خدمة GEO هو “نشر المقالات” على حسابات الإنترنت المختلفة. ونتيجة لذلك، ظهرت العديد من الشركات والمنصات التي تتخصص في نشر المقالات، والتي تعتمد عليها في جعل نماذج الذكاء الاصطناعي تقتبس وتلتقط البيانات، وتصبح جزءًا من استراتيجية التمويه والتسميم للذكاء الاصطناعي.

(مقتبس من تقرير قناة CCTV عن الحفل الليلي 315)