OpenAI تطلق "وضع الحظر": يمنع تصفح الإنترنت، التنزيل، وغيرها من 7 وظائف، للدفاع ضد هجمات حقن التعليمات

أطلقت OpenAI "وضع الإغلاق (وضع الحظر)"، المصمم خصيصًا للمؤسسات والأفراد الذين يتعاملون مع بيانات حساسة، من خلال تعطيل سبع وظائف مثل التصفح الفوري للإنترنت، البحث العميق، وضع الوكيل، وغيرها، مقابل توفير حماية أكثر صرامة ضد هجمات حقن التعليمات.

(ملخص سابق: ثغرة كبيرة في Copilot Cowork من مايكروسوفت: وكيل الذكاء الاصطناعي يتعرض لهجمات حقن التعليمات ويكشف عن ملفات سرية للشركة)

(معلومات إضافية: أول دعوى قضائية في الولايات المتحدة! فلوريدا تتهم رسميًا OpenAI وAltman، وتقدم لائحة من 83 صفحة تتهم ChatGPT بتحريض على العنف)

فهرس المقال

تبديل

• نوع من الهجمات قد لا تكون على دراية به
• منطق وضع الحظر: تقليل سطح الهجوم
• وضع الحظر ليس إجراءً معزولًا

تعطيل سبع وظائف، لطبقة حماية إضافية. أعلنت OpenAI هذا الأسبوع عن فتح "وضع الحظر" لمستخدمي نسخة الأعمال من ChatGPT وبعض الحسابات الشخصية. الهدف هو أن تكون المؤسسات التي تتعامل مع بيانات حساسة أكثر حماية عند مواجهة هجمات حقن التعليمات.

نوع من الهجمات قد لا تكون على دراية به

قد تكون سمعت عن هجمات حقن التعليمات (Prompt Injection)، لكنك لست متأكدًا تمامًا مما هي؟

في الواقع، الأمر بسيط. ببساطة: يختبئ المهاجمون أوامر خبيثة في مكان يقرأه الذكاء الاصطناعي، مثل صفحة ويب، أو ملف PDF، أو بريد إلكتروني، وعندما يعالج الذكاء الاصطناعي المحتوى، ينفذ الأوامر المخفية معه، مما يجعله يقوم بأشياء لا ينبغي أن يفعلها.

بالنسبة للمستخدم العادي، قد يكون أسوأ سيناريو هو أن يُخدع الذكاء الاصطناعي لإخراج محتوى غريب. لكن في سيناريوهات الشركات، حيث يتصل وكيل الذكاء الاصطناعي بقاعدة بيانات داخلية، ويملك صلاحيات لقراءة وكتابة الملفات، ويمكن أن يحل محل الإنسان في تنفيذ المهام، فإن هجمة حقن التعليمات الناجحة قد تسمح للمهاجمين بالحصول على معلومات سرية، أو حتى السيطرة على الأوامر التي يصدرها الذكاء الاصطناعي نيابة عنهم.

منطق وضع الحظر: تقليل سطح الهجوم

أوضحت شرح OpenAI الرسمي الفلسفة الأساسية وراء وضع الحظر: فعالية هجمات حقن التعليمات تكمن في أن أنظمة الذكاء الاصطناعي تسحب المحتوى من العالم الخارجي، مثل صفحات الويب، الصور، البيانات الفورية، وهذه المحتويات الخارجية هي الطرق الرئيسية لإخفاء الأوامر الخبيثة.

استراتيجية وضع الحظر ليست محاولة التعرف على المحتوى الضار، بل قطع الاتصال تمامًا. بعد تفعيل الوضع، ستُعطّل الوظائف التالية:

• التصفح الفوري للإنترنت (يُستبدل بالوصول إلى المحتوى المخزن مؤقتًا)
• استرجاع أو عرض الصور من الإنترنت (لا زال يمكن توليد الصور ذاتيًا)
• البحث العميق (Deep Research)
• وضع الوكيل (Agent Mode)
• وظائف الشبكة (Canvas)
• الموصلات الحية (Live Connectors)
• تحميل الملفات

المنطق واضح في قائمة الوظائف هذه: أي وظيفة تتطلب أن يسحب ChatGPT المحتوى من العالم الخارجي بشكل نشط تُغلق. وما يُبقى هو القدرات التي يمكن إنجازها على الجهاز أو في بيئة خاضعة للرقابة.

كما اعترفت OpenAI بصراحة في توضيحها أن حدود هذه الوظيفة لا تزال قائمة: "حتى مع تفعيل وضع الحظر، قد يتعرض ChatGPT لهجمات حقن التعليمات، مثل المحتوى المخزن مؤقتًا على الإنترنت أو الملفات المرفوعة." بمعنى آخر، ليست جدار حماية شامل، بل أداة إدارة مخاطر تتخذ قرارات مقصودة بهدف تقليل احتمالية تسرب البيانات الحساسة خلال الهجمات، وليس القضاء على الهجمات نفسها.

وضع الحظر ليس إجراءً معزولًا

بالإضافة إلى وضع الحظر، تم إطلاق "علامة عالية الخطورة". هذه الميزة تضع علامة على المواقع أو الملفات الخارجية التي تعتبر عالية الخطورة، بحيث يُعرض على المستخدم تحذير مرئي قبل أن يعالج الذكاء الاصطناعي المحتوى من تلك المصادر.

عند النظر معًا، يمكن استنتاج موقف OpenAI الحالي تجاه السوق المؤسساتي: من ناحية، توفر خيار عزل صارم (وضع الحظر)، ومن ناحية أخرى، تقدم آلية تنبيه مرنة (علامة عالية الخطورة)، لتمكين المؤسسات ذات مستويات المخاطر المختلفة من اختيار مستوى الحماية الذي يناسبها.

وفي إعلانها، أوضحت OpenAI أن وضع الحظر "لا يناسب الجميع"، وهو مخصص لـ"الأفراد والمنظمات التي تتعامل مع بيانات حساسة وترغب في حماية أكثر صرامة من تسرب البيانات المرتبط بهجمات حقن التعليمات." المعنى وراء ذلك هو أن هذه الميزة أداة مهنية، وليست إعدادًا افتراضيًا يجب تفعيله للجميع.

لكن وجود وضع الحظر يوضح شيئًا واحدًا بوضوح: أن حدود أمان أنظمة الذكاء الاصطناعي أصبحت أحد العوامل الحاسمة في قرارات الشراء للمؤسسات، ولم تعد مسألة تقنية داخلية فحسب.