كيف يمكن الحفاظ على الحد الأدنى من السلامة في ظل موجة "تربية الكركند"؟

“في الآونة الأخيرة، يتحدث نصف الموظفين في المكتب عن ‘تربية الكركند’، والنصف الآخر يتعلم كيف ‘يربي الكركند’.” في 13 مارس، أخبر مدير منتجات شركة إنترنت في بكين لصحيفة “عامل اليوم” أن النقاش الحامي بين الزملاء حول “تربية الكركند” لا يتعلق بتربية الأحياء المائية في الحياة الواقعية، بل هو تعبير عن إطار عمل الذكاء الاصطناعي المفتوح المصدر OpenClaw الذي تم إصداره مؤخرًا، والذي يتطلب تدريبًا وتوزيعًا مخصصين.

نظرًا لأن الرمز يُظهر كركندًا أحمر، أطلق عليه الجميع اسم “الكركند”. وعلى عكس الذكاء الاصطناعي العادي، فإنه قادر على تنفيذ مهام معقدة بشكل مستقل على جهاز المستخدم من خلال دمج واستدعاء برامج التواصل والنماذج اللغوية الكبيرة، مثل إدارة الملفات، وإرسال واستقبال البريد الإلكتروني، ومعالجة البيانات.

لماذا أثار هذا “الكركند” موجة شعبية واسعة؟ وما هي المخاطر الأمنية المرتبطة بـ “تربية الكركند”؟ قام مراسل صحيفة “عامل اليوم” بإجراء تحقيقات ومقابلات حول ذلك.

إصدار العديد من السياسات الداعمة لـ “الكركند” في مناطق متعددة

كأول ذكاء اصطناعي يثير اهتمام الجميع هذا العام، ما الذي يميز “الكركند” حقًا؟

قالت “تتبع أ亮”، مدونة تكنولوجية كانت تعمل في شركة إنترنت رائدة، إن “النموذج الأساسي للذكاء الاصطناعي العادي هو حواري، حيث يجيب المستخدمون على الأسئلة أو يتلقون خطوات تنفيذ، بينما ‘الكركند’ هو نموذج ‘مبادرة للعمل’. يكفي أن يحدد المستخدم هدف المهمة، وسيقوم مباشرة باستخدام أدوات مختلفة لإتمام العملية كاملة.” على سبيل المثال، إذا طلب منه تنظيم رسائل مهمة، فسيقوم تلقائيًا بفتح البريد الإلكتروني، وتصنيف المحتوى، وكتابة مسودة رد، دون أن يحتاج المستخدم إلى التدخل.

وأوضحت “ي جونغ وين”، مهندسة ذكاء اصطناعي في مختبر الإبداع الرقمي بجامعة بكين، أن “مختلف النماذج اللغوية الكبيرة مثل ChatGPT ليست مجرد روبوت دردشة بسيط، بل هي ‘موظف رقمي’ يمكنه الحصول على صلاحيات نظام التشغيل المحلي، واستدعاء أدوات متنوعة، وتخطيط خطوات العمل وفقًا للأوامر باللغة الطبيعية، وتنفيذ مهام معقدة تلقائيًا.”

وأضافت أن “نماذج الذكاء الاصطناعي السابقة، على الرغم من تطورها، كانت دائمًا محصورة في مجالاتها الخاصة، ولا يمكنها التعاون عبر مجالات مختلفة. أما ‘الكركند’، فميزته الأساسية أنه يزيل الحواجز بين نماذج الذكاء الاصطناعي في مختلف المجالات، ويشغل جميع قدراتها وقيمتها بشكل متكامل.” وشرحت أن “هذا يجعل من ‘OpenClaw’ ثورة في صناعة الذكاء الاصطناعي، ويُعدّ جسرًا ورابطًا حيويًا بين النماذج المختلفة.”

وفي ظل هذا الزخم، استجابت العديد من المناطق بسرعة. وفقًا لإحصاءات غير كاملة، حتى 12 مارس، أصدرت مدن مثل منطقة لونغغانغ في شنتشن، ومنطقة ووكسي للتكنولوجيا العالية، ومنطقة هيفي للتكنولوجيا العالية، ومدينة سوتشو، ومنطقة تشيكسيا في نانجينغ، ومنطقة شيشا في هانغتشو، سياسات دعم ذات صلة بـ “الكركند”. كما أطلقت بعض الحكومات المحلية خدمات توزيع مجانية لـ “الصغير الكركند” للجمهور.

المخاطر الأمنية الكامنة وراء “الكركند”

وسط حماسة الشعب لـ “تربية الكركند”، لم تكن تجارب أولى المستخدمين دائمًا إيجابية.

قال لي ياو، إنه بشكل عام، لم يجد الأمر سحريًا كما يُروج له على الإنترنت. وأضاف أن استخدام “الكركند” بشكل فعال يتطلب فتح صلاحيات التحكم في جميع التطبيقات على الكمبيوتر، ولأنه حذر، لم يفتح الكثير من الصلاحيات، لذلك رأى أن “النتائج محدودة”.

وأشارت “ي جونغ وين” إلى أن القدرة الأساسية لـ “OpenClaw” تكمن في التحكم في التطبيقات والأدوات المختلفة. ولكي يحقق ذلك، يجب على المستخدمين منحها صلاحيات واسعة، تشمل البريد الإلكتروني، وبرامج المكتب، وخلفيات المنصات المختلفة. وقالت: “هذا يشبه أن تطلب من شخص أن ينظف منزلك، فيجب أن تعطيه مفاتيح جميع الغرف.” وبهذا، فإن منح صلاحيات كاملة قد يعرض البيانات الشخصية للخطر، ويؤدي إلى تسرب البيانات.

وفي 10 مارس، أصدر المركز الوطني للاستجابة للطوارئ على الإنترنت تحذيرًا أمنيًا بعنوان “مخاطر تطبيقات أمان OpenClaw” (ويُشار إليه بـ “التنبيه”)، أوضح فيه أن التطبيق، لتحقيق قدرته على “تنفيذ المهام بشكل مستقل”، مُنح صلاحيات نظام عالية. لكن، بسبب تكوينه الأمني الافتراضي الضعيف جدًا، فإن أي مهاجم يمكنه استغلال الثغرات بسهولة والحصول على السيطرة الكاملة على النظام.

وأظهر “التنبيه” أن “OpenClaw” كشف عن عدة ثغرات عالية الخطورة، وإذا استُغلّت بشكل خبيث، فقد تؤدي إلى السيطرة على النظام، وتسريب المعلومات الشخصية والبيانات الحساسة. وذكر أن “بالنسبة للأفراد، قد يؤدي ذلك إلى تسريب البيانات الخاصة مثل الصور، والمستندات، وسجلات الدردشة، وحسابات الدفع؛ أما الشركات، فقد يتسبب في تسريب البيانات الأساسية، والأسرار التجارية، مما يسبب خسائر لا تُقدّر.” وأكدت “ي جونغ وين” أن ذلك قد يهدد خصوصية المستخدمين، ويعرض بياناتهم الحساسة للخطر.

وقال “تشو زي تشوان”، محامي في شركة هان دين المتحدة للمحاماة، إن “الكركند” عند تنفيذ أوامر المستخدمين، وبدون صلاحيات تحكم، قد يجمع بشكل مباشر أو غير مباشر كميات هائلة من البيانات عبر الإنترنت، وتجاوز قدرته على التحكم، مما قد يُعدّ جريمة الحصول غير القانوني على بيانات أنظمة الحواسيب، أو انتهاك خصوصية الأفراد.

وأضاف أن “الكثير من المستخدمين يطلبون من طرف ثالث نشر ‘الكركند’ مقابل أجر، لكن هؤلاء الطرف الثالث قد لا يمتلكون حماية أمنية كافية، مما يعرض الأجهزة لخطر التسرب، ويمكن للمهاجمين عبر التعليمات الخبيثة السيطرة على الأجهزة عن بعد، وسرقة المعلومات الحساسة.” وأكد أن ذلك يزيد من مخاطر الأمان.

ضرورة الحفاظ على الخطوط الحمراء الأمنية وسط هذا الزخم

اقترح تقرير العمل الحكومي لهذا العام تعزيز وتوسيع مفهوم “الذكاء الاصطناعي+”، وتسريع نشر الأجيال الجديدة من الأجهزة الذكية والأنظمة الذكية، وتعزيز تطبيقات الذكاء الاصطناعي التجارية في القطاعات الرئيسية، وتطوير نماذج أعمال جديدة قائمة على الذكاء الاصطناعي.

وقال “ي جونغ وين” إن ظهور “الكركند” يفتح مسارًا جديدًا لتطبيقات الذكاء الاصطناعي. وإذا تم تنظيم استخدامه بشكل صحيح، فسيتمكن من تحقيق فوائد كبيرة، وزيادة كفاءة العمل للأفراد والشركات بشكل كبير. وأكدت أن تطوير “الكركند” بشكل سليم يعتمد على موازنة بين الراحة والأمان.

وأضافت أن “الخصائص التقنية الجديدة التي تظهرها نماذج الذكاء الاصطناعي، تجعل القضايا القانونية المتعلقة بالذكاء الاصطناعي أكثر تعقيدًا.” على سبيل المثال، مشكلة “الغموض في تحديد المسؤولية”، عندما يتسبب “الكركند” أو غيره من أنظمة الذكاء الاصطناعي في انتهاكات أو أفعال غير قانونية بناءً على أوامر المستخدم، فإن تحديد المسؤولية بين المطور، والمنفذ، والمستخدم، يحتاج إلى توضيح قانوني أكثر.

واقترح “تشو زي تشوان” أن على مطوري ومقدمي خدمات الذكاء الاصطناعي أن يلتزموا بمسؤولياتهم القانونية، مثل الامتثال لقوانين حماية المعلومات الشخصية، وضمان تسجيل عمليات البيانات بشكل يمكن تتبعه، وتعزيز إدارة صلاحيات الذكاء الاصطناعي، ومراجعة التعليمات بشكل دوري، لتقليل المخاطر الأمنية.

كما أوضح “التنبيه” الصادر عن المركز الوطني للاستجابة للطوارئ أن الجهات والأفراد الذين ينوون نشر واستخدام “OpenClaw” يجب أن يفرضوا عزلًا صارمًا لبيئة التشغيل، ويستخدموا تقنيات الحاويات لتقييد صلاحيات التطبيق، ويشددوا على مصدر الإضافات، ويواصلوا متابعة التحديثات والتصحيحات الأمنية.

وحذر “ي جونغ وين” من أن المستخدمين قبل “تربية الكركند”، يجب أن يقيموا بشكل شامل قيمة وفوائد التطبيق مقابل مخاطره، وأن يقرروا ما إذا كانوا بحاجة حقيقية لاستخدامه لحل مشكلاتهم، ثم يقرروا ما إذا كانوا سينشرونه أم لا. وأكدت أن أثناء الاستخدام، يجب أن يحرصوا على تقسيم البيانات وحماية الخصوصية، وألا يندفعوا وراء الموضة، ويعرضوا بياناتهم وخصوصيتهم للخطر.