أنثروبيك تطلق إجراءات أمنية لنموذج Fable 5 وإطار تقييم سلوك اختراق الذكاء الاصطناعي

robot
إنشاء الملخص قيد التقدم
في 3 يوليو، أعلنت شركة أنثروبيك عن إطار عمل مقترح لتقييم شدة سلوكيات "اختراق" الذكاء الاصطناعي، وفصلت بالتفصيل إجراءات الأمن السيبراني المطبقة في نموذج كلود فابل 5 الذي تم إطلاقه عالميًا. تصنف الشركة حالات الاستخدام المتعلقة بالأمن السيبراني إلى أربعة أنواع، تتراوح من "الاستخدام المحظور" إلى "الاستخدام غير الضار". تشمل الاستخدامات المحظورة أنشطة مثل تطوير برامج الفدية، وإنشاء البرامج الضارة، والهجمات على البنية التحتية المادية السيبرانية. سيتم اعتراض الأنشطة عالية المخاطر ذات الخصائص "مزدوجة الاستخدام"، مثل اختبار الاختراق، حتى يتم إنشاء آليات رقابة أكثر قوة. يتراوح نظام تصنيف شدة اختراق السيبراني الذي اقترحته أنثروبيك من CJS-0 إلى CJS-4، مقسمًا إلى خمسة مستويات ويتم تقييمه عبر أربعة أبعاد. أطلقت أنثروبيك أيضًا مشروع HackerOne، داعية باحثي الأمن إلى تقديم حالات اختراق محتملة للنموذج. (سي نا فاينانس)
شاهد النسخة الأصلية
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
  • أعجبني
  • تعليق
  • إعادة النشر
  • مشاركة
تعليق
إضافة تعليق
إضافة تعليق
لا توجد تعليقات
  • مُثبت