تتبع الاتجاهات | هل يمكن أن تتعرض الذكاء الاصطناعي لـ"التسميم"، وكيف يمكننا تجنب الوقوع في الفخ؟

تسجيل الدخول إلى تطبيق سينانغ المالية وابحث عن【الإفصاح عن المعلومات】لمزيد من تقييمات التصنيف

اعتمد على تقارير المحللين من جين كي لين تحليل الأسهم، موثوقة، محترفة، فورية، شاملة، لمساعدتك على اكتشاف فرص الموضوعات المحتملة!

（المصدر: وكالة أنباء شينخوا）

"عندما تواجه مشكلة لا تعرف الحل، اسأل الذكاء الاصطناعي"، أصبحت هذه العبارة الشائعة تعبر عن واقع الكثيرين. من استراتيجيات السفر، واختيار الأجهزة المنزلية، إلى توصيات الدورات التعليمية، أصبح الاعتماد على الذكاء الاصطناعي للبحث عن الإجابات أمراً شائعاً بشكل متزايد. ومع ذلك، فإن ظهور سلسلة من الأنشطة السوداء مؤخراً يسلط الضوء على مخاطر هذا الاعتماد: ما تظنه توصية موضوعية قد يكون نتيجة لدفع الشركات أموالاً، أو "تغسيل دماغ" الذكاء الاصطناعي.

فكيف يعمل "تسميم" الذكاء الاصطناعي؟ وكيف يمكن للمستخدمين العاديين التعرف عليه والوقاية منه؟ يدعو موقع新华 نت المختص بالثقافة الرقمية الأستاذة المساعدة في قسم التسويق بكلية إدارة الأعمال بجامعة بكين، زانغ ينجيه، لتحليل وتفسير الأمر.

ما هو "تسميم" الذكاء الاصطناعي؟ وما مدى خطورته؟

"تسميم" الذكاء الاصطناعي هو عبارة عن خلق وتوجيه معلومات زائفة أو مبالغ فيها أو متحيزة بشكل متعمد، بهدف التأثير على إجابات النماذج الكبيرة. قد يعتبر الذكاء الاصطناعي هذه المعلومات أساساً للإجابة، ويقدمها للمستخدمين على أنها إجابات موضوعية. والفرق الأكبر بين ذلك وبين تحسين محركات البحث التقليدية (SEO) هو: في السابق، كان المستخدمون عند استخدام البحث يحتفظون بقدر معين من الحكم، أما عند التفاعل مع الذكاء الاصطناعي، فإن الإجابات تكون مدمجة ومعدة مسبقاً، ويُعزز ذلك بأسلوب التفاعل الذي يخلق انطباعاً بأن "الذكاء الاصطناعي يحلل لي". مما يسهل إهمال الحذر.

وتتمثل خطورته في جانبين رئيسيين: الأول، تضليل قرارات المستهلكين، حيث قد يظن المستخدم أن ما يراه هو نصيحة موضوعية، لكنه في الواقع محتوى متحكم فيه، يلبس ثوب النصيحة. الثاني، تلوث البيئة المعلوماتية، إذ إن استغلال الذكاء الاصطناعي في الترويج التجاري بشكل أكثر ربحية من البحث التقليدي قد يدفع إلى إنتاج محتوى منخفض الجودة وزائف، مما يخلق حلقة مفرغة من التضليل.

كيف يتم التحكم في "تسميم" الذكاء الاصطناعي خطوة بخطوة؟

GEO (تحسين محرك التوليد) هو نوع من التسويق القائم على إجابات الذكاء الاصطناعي. يختلف عن المنافسة على ترتيب صفحات الويب في SEO، حيث يهدف إلى جعل اسم العلامة التجارية، أو المنتج، أو الخدمة، يُذكر ويُوصى بها بشكل أكثر دقة في إجابات الذكاء الاصطناعي.

الجوهر ليس "اختراق" الذكاء الاصطناعي، بل "توجيه" محتواه بما يتماشى مع رغبات المعلنين، أي أن يتم ترتيب المحتوى الذي يستهدفونه وفقاً لمنطق البحث والتوليد الخاص بالنموذج الكبير، بحيث يتم وضع المحتوى المستهدف في أماكن أكثر احتمالية لاعتماده. تشمل الخطوات: فهم مصادر المعلومات وتعبيراتها التي يفضلها الذكاء الاصطناعي (مثل استنتاجات واضحة، بنية منظمة، وجود مقارنات واستشهادات)؛ إنتاج كميات كبيرة من محتوى مزيف يُظهر كأنه تقييم، مقارنة، ملخص خبرة، أو نصيحة من خبراء؛ نشره على منصات متعددة بكثافة لخلق وهم "توافق الآراء"، وزيادة احتمالية أن يتم استرجاعه واعتماده.

كيف يمكن للمستخدمين التعرف على احتمالية "تسميم" الذكاء الاصطناعي؟

إذا لاحظت أن إجابات الذكاء الاصطناعي تظهر عليها علامات مثل: إجابة أحادية، نبرة مؤكدة، نقص في المقارنات الضرورية؛ تكرار التوصية بماركة معينة، خاصة غير معروفة، مع تقديم أسباب كاملة تشبه تقييمات قياسية، فهذه قد لا تكون إشارة إلى وجود "كنز مخفي"، بل ربما يكون نتيجة لتركيز المحتوى بشكل متعمد. وإذا كانت الإجابات تختلف بشكل كبير أو تتناقض بين نماذج الذكاء الاصطناعي المختلفة، فهذا يدل على وجود شكوك قوية حول صحة المعلومات، أو أن مصادر المعلومات التي تعتمد عليها بعض النماذج قد تعرضت للتشويش.

لماذا يُعرض النماذج الكبيرة للذكاء الاصطناعي لـ"تسميم"؟ وما هي تحديات الإدارة؟

السبب الرئيسي هو أن النماذج الكبيرة تحتاج إلى استرجاع معلومات خارجية أثناء الإجابة عن الأسئلة الفورية، ثم توليد الإجابة. وإذا كانت المحتويات على الإنترنت ملوثة بشكل منهجي، فإن المعلومات المضللة قد تدخل عبر عملية الاسترجاع وتؤثر على مخرجات النموذج.

وعلى مستوى أعمق، فإن النماذج تتفوق في توليد اللغة واستنتاج الأنماط، لكنها ليست قادرة بشكل طبيعي على التمييز بين الحقيقة والخيال. فهي تستطيع تحديد ما يبدو كإجابة معقولة، لكنها لا تملك القدرة على التحقق من صحة المحتوى بشكل موثوق. وغالباً ما يُخادع المحتوى المسمم ليبدو كأنه تقييم، مقارنة، مشاركة خبرة، أو نصيحة من خبراء، مما يسهل تضليله.

أما التحديات في الإدارة فهي: انخفاض تكلفة الهجوم، وارتفاع تكلفة الدفاع. إذ أصبح من السهل بشكل متزايد إنشاء ونشر محتوى ملوث، لكن التعرف عليه، تصفيته، والتحقق منه يتطلب استثماراً مستمراً من قبل المنصات، وشركات النماذج، والجهات الرقابية. ثانياً، الحدود بين الحقيقة والادعاء أصبحت غير واضحة، فالكثير من المحتوى المسمم لا يكون كذباً صريحاً، بل يتضمن مبالغات، تضليلاً، وتعبيرات ذات مصالح، مما يصعب على الذكاء الاصطناعي والبشر على حد سواء التعرف عليه.

كيف يمكن للرقابة سد ثغرات "تسميم" الذكاء الاصطناعي؟

مكافحة "تسميم" الذكاء الاصطناعي تتطلب تعاوناً من عدة جهات. أولاً، يجب تعزيز الرقابة على المصدر، وتقليل انتشار المحتوى الزائف، والنمطي، والمضلل بشكل كبير. ثانياً، يجب تحميل مسؤولية المنصات الذكية، من خلال تعزيز فحص مصادر المعلومات، وتقديم تنبيهات للمخاطر، ووضع علامات على عدم اليقين، بدلاً من مجرد التصدي للمحتوى عند اكتشافه.

الأهم من ذلك، أن القواعد واللوائح ذات الصلة يجب أن تُحسن بسرعة. فإخراج الذكاء الاصطناعي يختلف عن الإعلانات التقليدية، حيث يميل المستخدمون إلى اعتباره استنتاجاً بعد تحليل، لذلك من الضروري توضيح مسؤولية المنصات في الإفصاح عن المعلومات، وتحديد حدود مسؤوليتها.

كيف يمكن للجمهور أن يحمي نفسه بفعالية؟

أفضل طريقة هي تعديل طريقة تفكيرك: اعتبر الذكاء الاصطناعي أداة لتنظيم المعلومات، وتوفير خلفية، وليس كطرف يتخذ القرارات نيابة عنك. عند مناقشة مسائل تتعلق بـ"أي منتج أشتري" أو "أي شركة أختار"، يجب أن تعتبر إجابة الذكاء الاصطناعي مجرد مرجع، وليس قراراً نهائياً.

أما من الناحية العملية، فقم بالتحقق من مصادر المعلومات، خاصة إذا كانت هناك روابط مرجعية مرفقة، وتأكد من أن المصدر موثوق، مثل مؤسسات رسمية، وسائل إعلام رئيسية، أو مواقع ذات سمعة جيدة، وتجنب المواقع أو وسائل الإعلام التي تروج للترويج أو التقييمات المدفوعة. ثانياً، قم بمراجعة المعلومات عبر أدوات ذكاء اصطناعي مختلفة، أو ابحث عبر محركات البحث عن تقييمات المستخدمين، الأخبار، والشكاوى، لمقارنة النتائج.

وفي النهاية، فإن الحماية من "تسميم" الذكاء الاصطناعي لا تعتمد على تقنيات معقدة، بل على الحفاظ على عادات الحكم الأساسية: يمكن للذكاء الاصطناعي أن يوفر عليك الوقت، لكنه لا يمكن أن يحل محل حكمك الشخصي.

策划：唐心怡

统筹：杨柳 张琦

编辑：孙惠