هل يمكن لضمانات الأمان مواكبة الاتجاه السائد مع الإطلاق المكثف للنسخة المحلية من "الكركند"؟

في مارس، أصبح “الروبيان” OpenClaw حديث الجميع، وظهور الروبيان يعني أن الذكاء الاصطناعي قد تم ترقيته من “محادث” إلى “منفذ” يمتلك أعلى صلاحيات النظام.

عندما انتشرت موجة “الروبيان” في الصين، ظهرت نسخ محلية منه واحدة تلو الأخرى، من Tencent و Baidu و Alibaba، إلى Zhipu و MINIMAX وشركات الهواتف المحمولة، جميعها شاركت في هذه الحمى لتربية “الروبيان”.

على الرغم من أن الروبيان يحظى بشعبية، إلا أن مخاطر الأمان أصبحت مصدر قلق للكثيرين. مؤخراً، مع انتشار تربية “الروبيان”، وقعت حوادث أمنية، مثلما حدث عندما قامت خبيرة أمن الذكاء الاصطناعي في Meta، Summer Yue، بربط OpenClaw ببريدها الإلكتروني الوظيفي، فخرج الذكاء الاصطناعي عن السيطرة على الفور، متجاهلاً أوامر “إيقاف” المتكررة، ومحو مئات الرسائل الإلكترونية بشكل جنوني.

قام مطورون بطلب من الذكاء الاصطناعي تحليل واجهات الويب، ولكن بسبب غموض الأوامر، فهمها على أنها حاجة لدراسة وظيفة API، فاستدعى مباشرة واجهة الحذف، مما أدى إلى مسح جميع المحتوى على منصة التعليقات.

في 10 مارس، أصدر المركز الوطني للاستجابة للطوارئ على الإنترنت تحذيراً بشأن مخاطر أمان تطبيق OpenClaw. وأشار التحذير إلى أن OpenClaw، لتحقيق قدرة “تنفيذ المهام بشكل مستقل”، مُنحت صلاحيات نظام عالية، تشمل الوصول إلى نظام الملفات المحلي، وقراءة متغيرات البيئة، واستدعاء واجهات برمجة التطبيقات (API) للخدمات الخارجية، وتثبيت الوظائف الإضافية. ومع ذلك، فإن إعداداته الأمنية الافتراضية ضعيفة للغاية، مما يتيح للمهاجمين، عند اكتشاف ثغرة، السيطرة الكاملة على النظام بسهولة.

وحذر التحذير من أن، بسبب سوء تثبيت واستخدام OpenClaw في البداية، ظهرت مخاطر أمنية خطيرة، منها مخاطر “حقن الكلمات التحذيرية”، و"العمليات الخاطئة"، و"تسميم الإضافات (Skills)"، وثغرات أمنية أخرى.

وفي مساء 11 مارس، أصدرت منصة مشاركة معلومات التهديدات والثغرات في وزارة الصناعة وتكنولوجيا المعلومات (التي تُعرف بـ"المنصة")، نصائح بعنوان “ستة أشياء يجب فعلها وستة أشياء لا تفعلها” للوقاية من مخاطر أمان الذكاء الاصطناعي المفتوح المصدر OpenClaw، بتنظيم من قبل مزودي الذكاء الاصطناعي، ومنشئي جمع الثغرات، وشركات الأمن السيبراني، وغيرهم.

قال أحد خبراء الصناعة إن تحديد مدى الخطورة يعتمد ليس فقط على التقنية، بل أيضاً على طريقة تنظيم الاستخدام. فإذا قام المستخدمون الأفراد بربط OpenClaw مباشرة بالبريد الإلكتروني الرئيسي، والخدمات المصرفية عبر الإنترنت، ومستودعات الكود، وقواعد بيانات العملاء، فستتضاعف المخاطر؛ أما إذا حددت الشركات بيئة معزولة، وفتحت أدوات القائمة البيضاء فقط، وضعت عتبة للموافقة اليدوية، واحتفظت بسجلات التدقيق، فسيقل الخطر بشكل كبير.

قال خبير الأمن في Qihoo 360، Wang Lijun، إن شعبية OpenClaw مستمرة في الارتفاع، وأن موجة تربية “الروبيان” التي أطلقتها، انتشرت من دائرة الذكاء الاصطناعي إلى الجمهور العام. ومع ذلك، فإن هذا الاحتفال التكنولوجي أدى أيضاً إلى تكرار حوادث الأمان، ويرجع ذلك بشكل رئيسي إلى أن OpenClaw سرع بشكل كبير من وتيرة تطور الذكاء الاصطناعي نحو “التماثل مع الإنسان”. وتشمل المخاطر المحددة فقدان السيطرة على الصلاحيات، وخطر “الهروب” من النظام، ومخاطر سلسلة التوريد للمهارات (Skills)، والخطر من التعرض للإنترنت والهجمات عن بعد، وتسريب البيانات الشخصية.

مع إطلاق نسخ محلية من “الروبيان”، اتخذت الشركات إجراءات لمواجهة مخاطر أمان تربية “الروبيان”. في 12 مارس، أطلقت Tencent صندوق أدوات أمان OpenClaw، لتوفير حماية أمنية للمؤسسات والأفراد. يغطي هذا النظام ثلاثة سيناريوهات رئيسية: السحابة الأصلية، الشبكة الداخلية للمؤسسات، وأجهزة الكمبيوتر الشخصية. ويعتمد على تقنيات Tencent Cloud لعزل البيئة والمراقبة الموحدة؛ ويعتمد على Tencent iOA لتعزيز أمن شبكة العمل؛ ويستخدم Tencent Computer Manager لتوفير حماية عزل بنقرة واحدة للمستخدمين العاديين.

بالإضافة إلى ذلك، قامت Tencent بتغليف بعض القدرات الأمنية في مهارات AI، وطرحتها على منصتي ClawHub و SkillHub، بحيث يمكن للمستخدمين عبر الحوار أن يجعلوا “الروبيان” يحقق حماية ذاتية.

قال سوجيانغ دونغ، المدير العام لأمن Tencent Cloud، في مقابلة مع “LatePost”، إن ما نفعله الآن لا يقتصر على دمج الأمان في منتجاتنا الداخلية مثل WorkBuddy و QClaw، بل نوفر أيضاً حلول أمان مماثلة لـ OpenClaw من طرف ثالث. بشكل عام، نعمل على مستوى الأجهزة، والشبكة، وسلسلة التوريد. على سبيل المثال، يوجد مركز أمان خاص لوكلاء الذكاء الاصطناعي، يراقب الثغرات والتكوينات غير الآمنة، ويقوم بتشفير كلمات المرور، ويمنع العمليات الخبيثة عالية الخطورة؛ وعلى مستوى الشبكة، نرصد ونحمي من هجمات حقن الكلمات التحذيرية، ونفحص البيانات الحساسة لمنع تسريبها؛ وعلى مستوى سلسلة التوريد، نتحقق من صلاحية المهارات (Skills) الخبيثة ونجري فحوصات أمنية.

وليس فقط Tencent، بل أطلقت شركات مثل Baidu و Volcano Engine و Zhipu، منتجات “الروبيان” المحلية، مع تنفيذ إجراءات حماية أمنية مرافقة.

من ناحية، يتم إطلاق نسخ محلية من “الروبيان”، ومن ناحية أخرى، تتطور حلول أمنية لمواجهة مخاطر تربية الروبيان. وأشار خبراء الصناعة إلى أن المخاطر الإجمالية حالياً قابلة للسيطرة، لكن “السيطرة” لا تعني “إتاحتها للجميع بدون تمييز في المدى القصير”. من وجهة نظر إدارة المشاريع، فإن المشكلات مثل التعرض للإنترنت، والكلمات السرية الواضحة، ومصدر الإضافات غير معروف، والصلاحيات المفرطة، وغياب سجلات التدقيق، كلها مخاطر يمكن تقليلها بشكل كبير من خلال تعزيز الأمان.

مع تطور الوكيل الذكي، أصبحت حماية الخصوصية الشخصية قضية محورية، فهل يمكن أن يؤدي وصول الوكيل الذكي إلى الإنترنت عبر صلاحيات عالية على الهاتف إلى تهديدات أمنية للخصوصية؟ وهل يجب أن يخضع ذلك لموافقة مزدوجة من المستخدم والمنصة، وهذه الأسئلة تحتاج إلى تطبيق تدريجي.

ومؤخراً، فرضت قوانين في الخارج قيوداً على سلوكيات مماثلة. ففي 9 مارس، قضت محكمة كاليفورنيا الأمريكية بوقف وصول الذكاء الاصطناعي التابع لشركة Perplexity AI إلى موقع أمازون، ومنع إنشاء أو السيطرة على حسابات أمازون، وحظر البيانات التي تم الحصول عليها، وأمرت بحذفها. يُذكر أن الذكاء الاصطناعي التابع للشركة، Comet، كان يتنكر في شكل متصفح Google Chrome، ويتجاوز فحوصات أدوات الأتمتة الخاصة بأمازون، وينقل بيانات التسوق إلى خوادم Perplexity دون علم المستخدم. وفي نوفمبر من العام الماضي، رفعت أمازون دعوى قضائية ضد الشركة.

على الرغم من أن الأمر القضائي الحالي هو “وقف مؤقت”، إلا أنه يعكس اعتراف القاضي بحق المستخدمين والمنصات في الحصول على “تراخيص مزدوجة” واحترامها. واستشهدت المحكمة بقضية سابقة شهيرة، وهي دعوى Facebook عام 2009 ضد موقع Power.com، التي قضت بأنه حتى مع موافقة المستخدم، فإن إلغاء التفويض الصريح وإصدار إشعار التوقف يجعل الوصول من قبل طرف ثالث غير مصرح به.

وبناءً عليه، طلبت المحكمة من Perplexity التوقف مؤقتاً عن تسجيل دخول حسابات أعضاء أمازون نيابة عن المستخدمين، وحذف جميع البيانات التي حصلت عليها من أمازون. ورفعت الشركة استئنافها.

لا تزال القضية تدور حول جدلية التفويض المزدوج، ورغم عدم وجود حكم نهائي بعد، فإن دمج الوكيل الذكي في حياة وأعمال الناس العاديين يتطلب مناقشة موضوع التفويض المزدوج بشكل حاسم.

مع تزايد استخدام الوكيل الذكي لتنفيذ مهام المستخدمين، أصبحت حماية الخصوصية أولوية قصوى.