تقرير: تصبح مشكلة الأمن العائق الرئيسي أمام النشر الواسع النطاق للذكاء الاصطناعي، ويجب "مواجهة الذكاء الاصطناعي بالذكاء الاصطناعي"

في 23 يونيو، خلال المعرض الرابع لسلسلة التوريد الدولية الصينية، أصدر لي روي، الشريك في إدارة الاستشارات الإدارية لبرايس ووترهاوس كوبرز الصين، تقريرًا بعنوان "من تسميم البيانات إلى اختراق النماذج، إعادة بناء نظام الأمن لمواجهة المخاطر الجديدة للذكاء الاصطناعي" (يشار إليه فيما يلي باسم "التقرير")، والذي يجمع بين التطبيق الواسع النطاق للذكاء الاصطناعي ويحلل بعمق المخاطر الأمنية الجديدة مثل تلوث البيانات، اختطاف المطالبات، واختراق النماذج.

"منذ عام 2021، شهد عدد حوادث وأضرار الذكاء الاصطناعي نموًا هائلاً." صرح لي روي مباشرةً أن قضايا الأمن والمخاطر أصبحت العقبة الأولى أمام النشر الواسع النطاق للذكاء الاصطناعي كعامل ذكي. ما يقرب من ثلثي المشاركين يعتبرون قضايا الأمن والمخاطر العقبة الرئيسية أمام التوسع الكامل في تطبيقات الذكاء الاصطناعي كعامل ذكي، وهذه النسبة أعلى بشكل ملحوظ من عدم اليقين التنظيمي أو القيود التقنية، مما يشير إلى أن القيود التي تواجه المنظمات تتعلق أكثر بثقتها في القدرة على نشر أنظمة ذاتية التشغيل بشكل آمن على نطاق واسع.

يظهر التقرير أنه وفقًا لتحليل حوادث مخاطر الذكاء الاصطناعي السابقة، فإن أكثر من نصف حوادث مخاطر الذكاء الاصطناعي ناتجة عن سلوكيات ضارة بشرية متعمدة، في حين أن مشكلات الأمن والأعطال في أنظمة الذكاء الاصطناعي نفسها لا تتجاوز 21%، وقد انخفضت نسبتها نسبيًا في السنوات الأخيرة. في بيانات عام 2025 وحدها، ارتفعت نسبة الأحداث من قبل الجهات الخبيثة من 37.9% إلى 57%، مما يشير إلى أن الذكاء الاصطناعي يتم تسليحه بسرعة متزايدة.

يسرد التقرير المخاطر الحالية للذكاء الاصطناعي: أولاً، تطور قراصنة الذكاء الاصطناعي، واكتشاف الثغرات بذكاء، ونشر الأكواد الضارة تلقائيًا؛ ثانيًا، هجمات دقيقة متقدمة مدفوعة بالذكاء الاصطناعي، وابتزاز أكثر استهدافًا؛ ثالثًا، انتشار المحتوى المزيف العميق، وكثرة هجمات الهندسة الاجتماعية المتقدمة؛ رابعًا، اختراق النماذج يؤدي إلى مخرجات مخالفة، وضغط مزدوج على السمعة والامتثال؛ خامسًا، تسميم سلسلة توريد الذكاء الاصطناعي، وثغرات مخفية تسبب أعطالًا تشغيلية؛ سادسًا، التحيز الخوارزمي، والتمييز المنهجي، والظلم الاجتماعي؛ سابعًا، عدم وضوح مصدر بيانات تدريب الذكاء الاصطناعي، مما يؤدي إلى انتهاك حقوق النشر؛ ثامنًا، سوء تقدير الذكاء الجسدي في التنفيذ، مما يسبب أضرارًا مادية وجسدية؛ تاسعًا، فقدان السيطرة على سلسلة مهام الوكيل، وقرارات متتالية تؤدي إلى عواقب لا رجعة فيها؛ عاشرًا، إلزامية وتجزئة اللوائح التنظيمية للذكاء الاصطناعي، وصعوبة الامتثال عبر الحدود.

في جميع أنواع المخاطر تقريبًا، أشار المشاركون إلى وجود فجوة واضحة بين المخاطر التي يعتبرونها مهمة والمخاطر التي يتخذون إجراءات تخفيفية فعلية بشأنها. هذه الفجوة واضحة بشكل خاص في انتهاكات الملكية الفكرية والخصوصية الشخصية، مما يشير إلى أن سرعة زيادة الوعي بالمخاطر تجاوزت سرعة تنفيذ الإجراءات الرقابية والعمليات والأدوات المقابلة، مما يجعل من الصعب إدارة المخاطر في الوقت المناسب وبفعالية.

أشار لي روي إلى أن المواجهة على مستوى الآلة تسبب "عدم توازن هجومي-دفاعي" خطير، حيث أصبح الهجوم بسرعة ذكية، بينما تعتمد الدفاعات على السد اليدوي التقليدي، مما يجعل الحماية التقليدية غير فعالة، ويجب استخدام "الذكاء الاصطناعي لمواجهة الذكاء الاصطناعي"، مع مراقبة المخاطر من طرفي الإدخال والإخراج، ففي طرف الإدخال يجب تحديد ما إذا كانت هناك إشارات خطرة، وفي طرف الإخراج يجب تحديد ما إذا كان هناك محتوى مخالف. "نشر كشف واستجابة للتهديدات مدعومة بالذكاء الاصطناعي، وعزل الشبكة والتحكم في حركة المرور، وكشف الأكواد الضارة وتحليل الصندوق الرملي، بالإضافة إلى إدارة الثغرات وإصلاحها في الوقت الفعلي."

تظهر البيانات أنه حتى أبريل 2026، أصدرت أكثر من 75 دولة/منطقة استراتيجيات وسياسات ولوائح متعلقة بالذكاء الاصطناعي، ولا تزال أخلاقيات التكنولوجيا، والشفافية والمساءلة، والامتثال للبيانات وحماية الخصوصية هي محاور الاهتمام الرئيسية للرقابة العالمية.

(تحرير: ون جينغ)