اتحاد تطوير صناعة الذكاء الاصطناعي: متابعة مستمرة لديناميكيات المخاطر الأمنية لـ OpenClaw والوكلاء الذكيين من نفس النوع

في الآونة الأخيرة، أصدرت منصة مشاركة معلومات التهديدات والثغرات الأمنية للإنترنت التابعة لوزارة الصناعة وتكنولوجيا المعلومات (NVDB) تحذيرًا أمنيًا مفتوح المصدر لـ OpenClaw (المعروف سابقًا باسم Clawdbot، Moltbot) وتوصيات “六要六不要”، محذرة من وجود العديد من الثغرات الأمنية عالية المستوى التي قد تؤثر سلبًا على المستخدمين، ويجب تعزيز تدابير الحماية الأمنية عند النشر والتطبيق. كمنصة خدمة للتعاون في صناعة الذكاء الاصطناعي، تلتزم رابطة تطوير صناعة الذكاء الاصطناعي دائمًا بحماية الامتثال القانوني لأعضاءها، وتعزيز التنمية الصحية والآمنة لصناعة الذكاء الاصطناعي. وللمساعدة في تحديد المخاطر بدقة، والوقاية الفعالة من المخاطر، وتجنب الخسائر الناتجة عن سوء الاستخدام، تصدر الرابطة هذا التحذير الأمني.

أولاً: تنبيه المخاطر الأمنية

1. مخاطر حقن الكلمات التوجيهية واحتجاز الأوامر. يتمتع هذا الذكاء الاصطناعي بقدرة على التشغيل المستمر المستقل، وقراءة المحتوى متعدد الوسائط، وتنفيذ الأوامر عبر المنصات، ويمكن للمهاجمين زرع كلمات توجيهية خبيثة في المستندات، والصفحات، والمحتوى التفاعلي، لتجاوز آليات الحماية الأمنية واحتجاز الأوامر، مما يؤدي إلى تنفيذ عمليات سرقة البيانات، وتعديل الأذونات، وتنفيذ الشفرات الخبيثة دون إذن، مما يعرض البيانات الحساسة، وحقوق الملكية الفكرية، وبيانات الاعتماد للنظام للخطر، ويحول الأجهزة إلى عقد في شبكة البوت نت.

2. انحراف القرارات الذاتية وخطر العمليات غير القابلة للعكس. يتأثر هذا الذكاء الاصطناعي بمشكلة “الهلوسة” في نماذج اللغة الكبيرة، مما قد يؤدي إلى فهم غير صحيح للأوامر، وأخطاء في منطق القرار، مما يسبب تلف البيانات الأساسية، وتعديل إعدادات أنظمة الأعمال الحيوية، وانقطاع العمليات الأساسية، مما يسبب خسائر لا يمكن عكسها ويؤثر سلبًا على الأعمال.

3. مخاطر التسمم الخبيث من قبل أطراف ثالثة في البيئة. تتنوع مصادر الإضافات، والوحدات الموسعة، ومكونات المهارات في بيئة المصدر المفتوح، وقد تم اكتشاف العديد من المكونات غير الخاضعة للمراجعة الأمنية التي تحتوي على رموز خبيثة، أو خلفيات مخفية، أو برمجيات خبيثة. استخدام هذه المكونات غير القانونية قد يؤدي إلى السيطرة غير القانونية على بيئة النشر، وتهديدات مثل التسلل الأفقي داخل الشبكة، وهجمات الفدية.

4. مخاطر استغلال الثغرات المعروفة وسوء التكوين. تم الكشف عن العديد من الثغرات الأمنية عالية الخطورة في هذا الذكاء الاصطناعي، والتكوين الافتراضي غير كافٍ للحماية، وإذا كانت هناك حالات كشف عن الأجهزة على الإنترنت، أو كلمات مرور ضعيفة، أو تشغيل حسابات ذات صلاحيات عالية، أو تخزين معلومات حساسة بشكل واضح، يمكن للمهاجمين استغلال الثغرات والتكوينات الضعيفة للسيطرة على النظام، مما يؤدي إلى تسرب البيانات بالكامل، وتعطيل أنظمة الأعمال.

5. مخاطر الهجمات المركبة. يجب الحذر من أن OpenClaw يواجه مخاطر أمنية ناتجة عن تداخل عميق بين ثغرات البرمجيات التقليدية والثغرات في نماذج الذكاء الاصطناعي الكبيرة. فهي تستخدم الثغرات التقليدية كمدخل لاختراق البيئة، وتستغل المخاطر الداخلية للنموذج لاحتجاز سلوك النموذج، وتضخيم تأثير الهجوم، وتكسر حدود الحماية التقليدية وأمان الذكاء الاصطناعي، مما يخلق تهديدات مركبة لا يمكن للدفاع الأحادي التعامل معها بشكل كامل.

6. مخاطر الامتثال القانوني والمسؤولية. إذا كانت عمليات تطوير، ونشر، وتطبيق هذا الذكاء الاصطناعي تتعلق بمعالجة المعلومات الشخصية، وتداول البيانات المهمة، واتخاذ القرارات الآلية، ونقل البيانات عبر الحدود، فإن عدم الالتزام الصارم بالقوانين واللوائح ذات الصلة في الصين قد يؤدي إلى مخاطر امتثال؛ وإذا تم استخدام خدمات طرف ثالث مغلفة، فقد تظهر مشكلات في تحديد المسؤولية بعد تسرب البيانات أو غيرها من المشاكل.

7. مخاطر تدفق البيانات عبر الحدود. قد يتم تكوين هذا الذكاء الاصطناعي لاستدعاء واجهات برمجة التطبيقات لنماذج خارجية، أو الوصول إلى مصادر بيانات خارجية، أو نشره في سيناريوهات عبر الحدود، مما قد يؤدي إلى نقل البيانات بشكل تلقائي ومتكرر دون تقييم أمني، مما قد ينتهك اللوائح الصينية الخاصة بتقييم أمن البيانات عند تصديرها.

ثانياً: إرشادات الحماية الأمنية حسب السيناريو

بالنظر إلى أنماط التطبيقات السائدة الحالية، تنقسم الرابطة إلى ثلاثة سيناريوهات رئيسية: النشر المحلي الذاتي، النشر على السحابة، واستخدام خدمات الطرف الثالث المعبأة، مع تحديد متطلبات أمنية أساسية مشتركة لكل السيناريوهات، ثم إصدار تحذيرات أمنية خاصة حسب خصائص المخاطر في كل سيناريو.

(أ) متطلبات أمنية أساسية مشتركة لكل السيناريوهات

هذه المتطلبات تنطبق على جميع حالات استخدام OpenClaw ونظائرها من الذكاء الاصطناعي، وهي حدود أمان لا يمكن تجاوزها:

1. تقييم الحاجة الحقيقية للاستخدام بحذر. عدم النشر بشكل أعمى، وتعزيز إدارة سلسلة التوريد والإضافات عند استخدام الأدوات ذات الصلة، وإجراء مراجعة الكود والتحقق من السلوك في بيئة معزولة، وإزالة المكونات الخبيثة بسرعة، وتأسيس آلية رقابة كاملة “تقييم قبل الاستخدام، اختبار قبل النشر”.

2. تحديد حدود الاستخدام، ومنع تسرب المعلومات الحساسة. حظر النشر أو الاستخدام أو الاتصال بأي شكل من الأشكال في بيئات المعالجة للمعلومات الحساسة أو الشبكات الداخلية، وعدم السماح بالوصول إلى الأسرار التجارية أو البيانات المهمة أو المعلومات الشخصية الحساسة.

3. الالتزام بالامتثال، والالتزام بالقوانين. الالتزام الصارم بقوانين الأمن السيبراني، وأمن البيانات، وحماية المعلومات الشخصية، ولوائح خدمات الذكاء الاصطناعي التوليدي، مع الالتزام بحدود التشغيل القانونية.

4. تعزيز التدقيق الكامل، وتطوير آليات الاستجابة للطوارئ. إجراء تدقيق كامل لسجلات التشغيل، والأوامر، وتدفق البيانات، مع الاحتفاظ بالسجلات لمدة لا تقل عن 6 أشهر، وتطوير آليات مراقبة سلوك غير طبيعي والاستجابة السريعة عند اكتشاف المخاطر، وإيقاف العمليات المشتبه بها فورًا، وإجراء التحقيقات اللازمة.

5. الاستمرار في تعزيز الأمان، وإصلاح الثغرات بسرعة. متابعة إعلانات الثغرات، وتحديث النسخ إلى أحدث إصدار رسمي، وإجراء فحوصات أمنية منتظمة على البيئة والصلاحيات، وتحسين قدرات الوقاية من المخاطر.

6. إدارة أمن الموظفين، وتعزيز الوعي الأمني والكفاءة. تدريب الموظفين على مخاطر النشر، وحماية المعلومات الحساسة، وطرق الاستجابة للطوارئ، وتجنب ربط التطبيقات بحسابات التواصل الشخصي، لوقاية البيانات الحساسة من التسرب عبر منصات التواصل غير المراقبة، وزيادة الوعي الأمني.

(ب) إرشادات خاصة للنشر المحلي الذاتي

نطاق التطبيق: تنزيل الكود المصدري لـ OpenClaw، والنشر والتشغيل والتطوير في بيئة داخلية خاصة، على خوادم محلية، أو أجهزة مكتبية، أو شبكات داخلية. مع التركيز على المخاطر الأساسية، نوصي بما يلي:

1. السيطرة على مصدر الكود المصدري: يجب تحميل الكود من مستودعات رسمية موثوقة، وإجراء مراجعة أمان وتحليل الثغرات فورًا بعد التحميل، مع فحص الثغرات الخلفية، والرموز الخبيثة، والثغرات المعروفة، ورفض استخدام فروع غير رسمية أو صور غير موثوقة.

2. تطبيق عزل بيئي صارم: يجب أن يكون بيئة النشر معزولة تمامًا عن الشبكة الأساسية أو الشبكة الداخلية، ويجب أن تعمل فقط في بيئة اختبار مغلقة، مع حظر الوصول إلى الأنظمة الحساسة أو مناطق تخزين البيانات المهمة عبر الشبكة.

3. تقييد صلاحيات التشغيل بشكل صارم: الالتزام بمبدأ أقل الامتيازات، وعدم تشغيل البرامج بحسابات ذات صلاحيات عالية مثل المدير أو root، وتخصيص الحد الأدنى من الصلاحيات اللازمة فقط، مع منع عمليات الحذف الجماعي، وتعديل الإعدادات، وتنسيق الأقراص.

4. تعزيز التكوينات الأساسية: عدم كشف الأجهزة على الإنترنت، وإغلاق المنافذ والخدمات غير الضرورية، وتفعيل آليات التوثيق القوي والمتعدد العوامل، ومنع الوصول بدون مصادقة أو بكلمات مرور ضعيفة، وتخزين المفاتيح السرية وبيانات الاعتماد بشكل مشفر، وتغييرها بانتظام.

5. إدارة موارد الإضافات الخارجية بشكل صارم: يجب فحص جميع الإضافات، والوحدات الموسعة، والمكونات الخارجية، من قبل خبراء أمنيين، وعدم تحميل أو استخدام المكونات غير الموثوقة، ورفض استيراد قوالب كلمات التوجيه أو ملفات التكوين غير الموثوقة، لمنع هجمات حقن الكلمات التوجيهية.

6. تنظيم عمليات التطوير الثانوية: عند إجراء تطوير ثانوي للكود المفتوح، يجب تقييم الأمان والامتثال، مع فحص الثغرات الأمنية، وتجنب تجاوز الصلاحيات، وتسريب البيانات، وهجمات الحقن، مع اختبار الأمان بشكل دوري.

7. ضبط حدود عمليات الذكاء الاصطناعي: تهيئة حدود لعمليات الذكاء الاصطناعي، لمراقبة عمليات القراءة والكتابة الجماعية، واستدعاءات الصلاحيات عالية التردد، ونقل البيانات بكميات كبيرة، مع تفعيل التنبيهات والإيقاف التلقائي عند اكتشاف سلوك غير طبيعي.

(ج) إرشادات خاصة للنشر على السحابة

نطاق التطبيق: نشر OpenClaw على السحابة العامة، أو الخاصة، أو الهجينة، باستخدام خوادم سحابية، أو حاويات، أو خدمات بدون خادم (Serverless). مع التركيز على المخاطر الأساسية، نوصي بما يلي:

1. تقييد الوصول عبر الإنترنت: عدم ربط الأجهزة مباشرة بعناوين IP عامة، أو فتح جميع المنافذ، ويجب أن يكون الوصول عبر مجموعات الأمان في السحابة، مع السماح فقط لعناوين IP الداخلية أو الشبكات الخاصة عبر VPN، ويجب أن يكون الوصول مشفرًا وموثقًا دائمًا. مراجعة وتدقيق إعدادات الشبكة بشكل كامل قبل استخدام الصور أو القوالب الافتراضية.

2. تشديد صلاحيات إدارة السحابة: الالتزام بمبدأ أقل الامتيازات، وعدم استخدام حسابات الجذر أو الإداريين، وتخصيص أدوار محدودة فقط، مع منع الوصول عبر حسابات متعددة أو عبر مشاريع أو مستأجرين مختلفين، لمنع سوء الاستخدام.

3. تعزيز أمان الحاويات والخدمات السحابية: فحص صور الحاويات أمنياً بشكل كامل، والتأكد من خلوها من رموز خبيثة، والثغرات المعروفة، وتفعيل حماية الهروب من الحاويات، وقوائم السماح، وتقليل صلاحيات النظام، وعدم تشغيل الحاويات بامتيازات عالية.

4. إدارة المعلومات الحساسة بشكل آمن: تخزين مفاتيح API، وبيانات الاعتماد، وأحراز الوصول إلى النماذج الكبيرة بشكل مشفر عبر خدمات إدارة المفاتيح السحابية، وعدم تضمينها في الكود أو التكوينات، لمنع التسرب.

5. تحسين نظام مراقبة الأمان السحابي: ربط أنظمة كشف الاختراق، وتدقيق حركة البيانات، وتحليل السجلات، لمراقبة الوصول غير المصرح به، والتسلل الأفقي، والإرسال غير المصرح للبيانات، مع تفعيل النسخ الاحتياطي المنتظم للبيانات.

6. الوقاية من مخاطر المستأجرين المتعددين وسلسلة التوريد: تجنب النشر في بيئات مشتركة، واستخدام الأجهزة المخصصة أو السحابة الخاصة، وفحص مكونات المصادر المفتوحة، والتأكد من خلوها من الثغرات والتسمم.

7. حماية دورة حياة البيانات في السحابة: تشفير جميع البيانات التي يتم إنشاؤها أو معالجتها أو تخزينها، وتنظيف البيانات المؤقتة بشكل دوري، وعدم تخزين البيانات الحساسة بشكل واضح على الخوادم أو الحاويات أو التخزين السحابي، ومنع مزامنة البيانات مع سحابات خارجية أو غير مصرح بها.

(د) إرشادات خاصة لاستخدام خدمات الطرف الثالث المعبأة

نطاق التطبيق: عدم نشر الكود الأساسي، واستخدام خدمات SaaS أو أدوات جاهزة من طرف ثالث تعتمد على OpenClaw، أو دمجها في أنظمة الأعمال. مع التركيز على المخاطر الأساسية، نوصي بما يلي:

1. التحقق من مؤهلات مزود الخدمة: اختيار مزودين معتمدين وذوي سمعة أمنية واضحة، والتحقق من شهادات الحماية، والتراخيص، وعدم استخدام أدوات غير مرخصة أو غير موثوقة.

2. تحديد المسؤوليات والالتزامات القانونية: توقيع اتفاقيات خدمة رسمية، وتحديد ملكية البيانات، ومناطق التخزين، وحقوق الاستخدام، والالتزامات الأمنية، وإجراءات التعامل مع تسرب البيانات.

3. مراقبة حدود البيانات والاستخدام: عدم رفع البيانات الحساسة أو الأسرار التجارية أو البيانات المهمة إلى خدمات الطرف الثالث، إلا للمهام غير الحساسة، وعدم فتح واجهات أو صلاحيات داخلية للأنظمة أو الشبكات الخاصة.

4. تقييم مخاطر الوظائف: اختبار آليات تنفيذ الأوامر، وميزات الحماية من حقن الكلمات التوجيهية، والرقابة على العمليات عالية الخطورة، وتحديد صلاحيات الوصول، وعدم تفعيل الوظائف عالية الخطورة إلا بعد مراجعة يدوية صارمة.

5. المراقبة المستمرة للامتثال والأمان: مراجعة التزام مزود الخدمة، وتتبع الحوادث الأمنية، وتوثيق تدفقات البيانات والأوامر، والتوقف عن الاستخدام عند اكتشاف سلوك غير طبيعي، مع جمع الأدلة.

6. إعداد خطط استجابة للطوارئ: تحديد إجراءات الاستجابة، وتحديد أطر زمنية، وإجراء نسخ احتياطية محلية منتظمة، لضمان استعادة البيانات عند حدوث خلل أو توقف الخدمة.

7. إنشاء نظام تتبع كامل للبيانات وحقوقها: وضع علامات فريدة على البيانات المرفوعة، وتوثيق عمليات المعالجة والتخزين والحذف، وتحديد ملكية البيانات المشتقة، وضمان حق المستخدم في حذف البيانات، وعدم استخدام البيانات أو الاحتفاظ بها بشكل غير مصرح.

ثالثاً: الخطوات القادمة للرابطة

ستواصل الرابطة تقديم الدعم لأعضائها:

1. متابعة ديناميكيات مخاطر الأمان لـ OpenClaw ونظائره، وتحديث التحذيرات الأمنية والممارسات الصناعية عند توفر المعلومات.

2. تنظيم فعاليات تدريبية وورش عمل متخصصة في أمن الذكاء الاصطناعي، ودعوة خبراء الصناعة لمشاركة خبراتهم.

3. إعداد دليل إدارة مخاطر النشر على مستوى المؤسسات، وقوائم التحقق الذاتية، لمساعدة الشركات على تحسين نظم الحوكمة والامتثال.

4. التنسيق مع الموارد الأمنية ذات الجودة العالية لمساعدة الأعضاء في عمليات فحص المخاطر، ومعالجة الثغرات، وتقديم المشورة الفنية.

الأمان في الذكاء الاصطناعي هو الركيزة الأساسية لتحقيق التنمية عالية الجودة للصناعة. تشجع الرابطة الأعضاء على استكشاف تطبيقات مبتكرة لتقنيات الذكاء الاصطناعي، مع ضرورة إيلاء أهمية قصوى للمخاطر المحددة، وإجراء فحوصات شاملة، وتنفيذ تدابير حماية موجهة، للحفاظ على بيئة آمنة ومنظمة لصناعة الذكاء الاصطناعي في بلادنا.

(المصدر: صحيفة 澎湃 نيوز)