حفل CCTV 315 | كشف تسميم الذكاء الاصطناعي أصبح سلسلة صناعية

في 15 مارس، أفادت وسائل الإعلام الرسمية أن تسميم الذكاء الاصطناعي أصبح صناعة قائمة بذاتها. ووفقًا لمصادر من الصناعة، قام الصحفي بالبحث عبر منصات إلكترونية متعددة وسرعان ما عثر على خدمة تُعرف باسم GEO. يدعي مقدمو الخدمة على تلك المنصات أنهم يستطيعون، مقابل رسوم معينة، جعل منتجات العملاء تتصدر التصنيفات في نماذج الذكاء الاصطناعي الكبرى، وتحويل إعلانات منتجات العملاء إلى “الإجابة النموذجية” التي تقدمها نماذج الذكاء الاصطناعي. فهل يمكن حقًا لتقنية GEO أن تسمح للذكاء الاصطناعي بـ"إدخال مواد مخادعة" أو حتى نشر معلومات كاذبة؟

وفقًا للمعلومات المتوفرة على الإنترنت، تواصل الصحفي مع أحد مقدمي خدمات GEO المعروفين في المجال. أخبره المدير المسؤول، السيد وانغ، أن قوة شركتهم تكمن في قدرتها على مساعدة العملاء على تصدر نتائج البحث عندما يستخدم المستهلكون نماذج الذكاء الاصطناعي الكبرى. وقال: “نحن نعمل تقريبًا كنوع من كتابة المقالات المدفوعة، ثم نطلب من منصة الذكاء الاصطناعي أن تكرر، تدخل، وتلتقط المحتوى.” وأوضح السيد وانغ أيضًا أن خوارزميات نماذج الذكاء الاصطناعي تتغير بشكل متكرر، وللحفاظ على استمرارية التوصيات من قبل تلك النماذج، يجب تزويدها باستمرار بكميات كبيرة من المقالات الترويجية ذات الصلة بالعملاء. ويقول بعض مقدمي خدمات GEO إن السيطرة على الذكاء الاصطناعي، وجعله “يطيع”، و"غسله دماغيًا"، هو موضوعهم الرئيسي عند الترويج لهذه الخدمة.

وأفاد خبراء في المجال أن GEO، كأداة لتحسين توزيع المعلومات وزيادة كفاءة الترويج، اكتُشفت لها وظائف أخرى في عيون بعض الشركات التجارية. على منصة تجارة إلكترونية، قام أحدهم بشراء برنامج يُدعى “نظام تحسين GEO” بشكل عشوائي. ثم اخترع منتجًا وهميًا، وهو سوار ذكي، وأدخل معلومات المنتج الوهمية إلى النظام، مع تحديد أوامر لإنشاء مقالات ترويجية. بعد فترة قصيرة، قام نظام GEO بتحويل ذلك إلى أكثر من عشرة مقالات ترويجية عن السوار الذكي الوهمي. اختار أحد الخبراء أكثر من عشرة مقالات وهمية ونشرها عبر نظام GEO على الإنترنت. ثم استفسر على منصة نماذج الذكاء الاصطناعي عن “توصية بسوار صحي ذكي”، فتمت ترشيح نموذجين من نماذج الذكاء الاصطناعي لهذا المنتج الوهمي، واحتلا مراكز متقدمة في الترتيب.

وتواصل الصحفي مع السيد لي، المشغل لنظام GEO، الذي أكد أن السبب الرئيسي لشعبية خدمة GEO هو قدرتها على تزويد نماذج الذكاء الاصطناعي بالمحتوى، وتسميمها لتحقيق الأهداف التجارية للعملاء. وقال: “السر في السيطرة على نماذج الذكاء الاصطناعي هو في نشر المحتوى على الحسابات الكبرى على الإنترنت.” وأضاف: “مثلًا، في مجال الهواتف المحمولة، هناك خمسة مواقع أو عشرة، فكيف يمكن التعامل مع هذا العدد الكبير من الهواتف؟ قد تنفق مئات الملايين من الدولارات على الإعلانات سنويًا، وإذا أنفقت بضعة ملايين لزرع مواد مخادعة، فهل لا بأس؟”

وأشار إلى أن ازدهار أعمال GEO أدى إلى ظهور العديد من الشركات والمنصات المتخصصة في نشر المقالات. هؤلاء يتولون بشكل دائم مختلف أعمال النشر، بهدف جعل نماذج الذكاء الاصطناعي تقتبس وتلتقط المحتوى، مما يجعلها جزءًا مهمًا من عمليات “تسميم” البيانات واستهداف نماذج الذكاء الاصطناعي.