سيسكو (CSCO.US ) تطلق خدمات الأمان بالذكاء الاصطناعي لمواجهة مخاطر الأمان التي تهدد الوكلاء الذكيين الفائقين مثل OpenClaw

تقرير من تطبيق ذكاء الأعمال المالي يذكر أن شركة سيسكو (CSCO.US) أطلقت خدمات أمنية تهدف إلى حماية العالم من تهديدات وكلاء الذكاء الاصطناعي والأطراف الأخرى. من خلال بناء هوية موثوقة، وتنفيذ تحكم صارم في الوصول بدون ثقة، وتعزيز الوكيل الذكي قبل النشر، وتطبيق الحماية الأمنية أثناء التشغيل، وتوفير أدوات لفريق مركز العمليات الأمنية (SOC) لوقف التهديدات بسرعة الآلة، تسعى سيسكو إلى دمج الأمان في أساس اقتصاد الذكاء الاصطناعي الناشئ.

على سبيل المثال، منصة OpenClaw التي حققت شهرة واسعة مؤخرًا، وهي منصة لوكلاء الذكاء الاصطناعي تحظى بشعبية كبيرة في الأوساط التقنية. تم تطويرها بواسطة بيتر ستاينبرغر الذي انضم لاحقًا إلى OpenAI. تتيح OpenClaw للمستخدمين إعداد وكلائهم الخاصين من الذكاء الاصطناعي، والذين يمكنهم العمل على أجهزة الكمبيوتر، وتنفيذ مهام متنوعة من فحص البريد الإلكتروني والرد على الرسائل إلى إدارة ملفات النظام.

على الرغم من أن هذه الوظائف مثيرة للإعجاب، إلا أنها قد تثير مخاطر أمنية. ذلك لأن المستخدم يمنح نماذج الذكاء الاصطناعي صلاحية التحكم في حاسوبه. وعلى الرغم من أن ذلك مفيد جدًا في حالات الأتمتة الفائقة، إلا أنه قد يؤدي أيضًا إلى مشاكل خطيرة، مثل حذف رسائل البريد الإلكتروني المهمة أو حذف برامج كاملة من النظام بشكل دائم.

بالنسبة للشركات التي تختبر OpenClaw على أجهزتها، فإن الأمر يمثل مشكلة أكبر. لذلك، تطلق العديد من المؤسسات منتجات أمنية جديدة تهدف إلى السيطرة على OpenClaw، ومنع وكلاء الذكاء الاصطناعي من التسبب في أضرار أكبر من المنافع.

في الأسبوع الماضي، أطلقت شركة نفيديا (NVDA.US) منصة NemoClaw في مؤتمر GTC الذي أقيم في سان خوسيه بكاليفورنيا، بينما عرضت سيسكو نتائج تقدمها في هذا المجال يوم الاثنين.

قال جيتو باتيل، رئيس سيسكو ومدير المنتجات التنفيذي: “OpenClaw هو المعنى الحقيقي لـ ChatGPT بالنسبة لموظفي خدمة العملاء، فهو في الواقع محفز يسهل على المستخدمين المتمرسين تقنيًا نشر خدمات العملاء في أماكن العمل والمنزل.”

وأضاف باتيل: “الجانب السلبي، وهو التحدي، هو مخاطر الثقة والأمان لهذه الوكلاء. فهم يشبهون المراهقين قليلاً، واثقون جدًا، يفتقرون إلى الخبرة، ولا يدركون العواقب بشكل كامل، ولا يعرفون القواعد.”

ولمواجهة هذه المخاوف، أعلنت سيسكو أنها تتبع نهجًا متعدد الجوانب، بهدف حماية العالم من وكلاء الذكاء الاصطناعي المتهور، وحماية الوكلاء من الأذى، واستخدام الذكاء الاصطناعي للكشف عن التهديدات المحتملة من قبل المهاجمين والمتسللين.

وصف الأمر بأنه “حماية العالم من تهديدات الذكاء الاصطناعي” قد يبدو مبالغًا فيه، لكن باتيل يعتقد أن الأمر ليس كذلك. فالذكاء الاصطناعي، مثل أي برنامج آخر، يمكن استغلاله لمهاجمة البنية التحتية أو سرقة البيانات الحساسة.

قال باتيل: “مخاطر هذه الوكالات الذكية أعلى بكثير من روبوتات الدردشة. أسوأ سيناريو للروبوتات هو إعطاء إجابات خاطئة، أما أسوأ سيناريو لوكلاء خدمة العملاء فهو أن يتخذ الموظفون إجراءات خاطئة، وبعضها قد يؤدي إلى نتائج كارثية، مثل مسح حسابك البنكي أو حذف رسائل البريد الإلكتروني، وكل ذلك بدون إمكانية التراجع.”

تعتقد سيسكو وشركات أخرى أن أفضل طريقة هي معاملة وكلاء الذكاء الاصطناعي كما يتم معاملة الموظفين البشريين، من خلال منحهم هوية قابلة للتحقق، ثم إدارتهم، وتوفير وصول مناسب إلى الأنظمة والخدمات الصحيحة.

وفي الوقت نفسه، يهدف حماية وكلاء الذكاء الاصطناعي من التدخل الخارجي إلى منع المتسللين من اختراق الوكلاء وإجبارهم على تنفيذ مهام غير مرغوب فيها.

قالت سيسكو إنها تطلق خدمة تتيح للعملاء اختبار أداء وكلائهم في بيئة محاكاة للهجمات، لفهم نقاط القوة والضعف لديهم.

وفي الختام، تعتمد الشركة على الوكلاء لمواجهة التهديدات الأخرى للذكاء الاصطناعي، لضمان قدرة العملاء على الاستجابة بسرعة مماثلة للمهاجمين في مختلف الحالات.

يُعد OpenClaw أحدث إنجازات الذكاء الاصطناعي الذي يشهد انفجارًا، ومن المحتمل أن يدفع المزيد من التغييرات في المستقبل القريب. فبعد أن ظهر لأول مرة في نوفمبر من العام الماضي، بدأ بالفعل في التأثير على قرارات الشركات الكبرى. بالطبع، سيتطلب ذلك المزيد من تقنيات وأساليب الأمن السيبراني لمساعدة المدافعين على مواكبة المهاجمين.