ME AI رسالة، وفقًا لمراقبة بيتيج، أعلنت شركة أنثروبيك عن تعديل استراتيجية الأمان لتطوير نموذجها الجديد كلود فابل 5، وإلغاء قيود التراجع الصامت في الأداء. تم اتهام آلية التراجع الصامت من قبل المجتمع بأنها "تخريب سري"، مما أدى إلى رد فعل قوي من مجتمع أبحاث الذكاء الاصطناعي. وفقًا لشروط خدمة أنثروبيك، لا يُسمح للمستخدمين باستخدام كلود لتدريب نماذج منافسة. تخطط أنثروبيك لخفض أداء كلود فابل 5 مباشرة دون إخطار المستخدمين في حال الاشتباه في تدريب حسابات على نماذج منافسة. حذر باحثو الذكاء الاصطناعي من أن التراجع الصامت في الأداء قد يعيق عمل جهات تقييم الأمان الخارجية، ويعيق التعاون في المجتمع المفتوح في مجال أمان الذكاء الاصطناعي. ردًا على شكوك المجتمع، أصدرت أنثروبيك بيانًا اعتذرت فيه علنًا، واعترفت بأنها اتخذت قرارًا خاطئًا في موازنة استراتيجيات الأمان، وستقوم بتعديل آلية الحماية لتكون إشعارًا علنيًا. إذا اكتشف النظام أن المستخدم يحاول بناء ذكاء اصطناعي عالي القدرة، فسيتم رفض الطلب بشكل واضح، أو سيتم توجيه المستخدم إلى نموذج منخفض القدرة. حذرت أنثروبيك من أن آلية الحماية المفتوحة أسهل في الت绕ها، وأنها ستوسع نطاق فحص الحماية في المستقبل، مما قد يؤدي إلى رفض بعض الطلبات الآمنة وغير الضارة عن طريق الخطأ. (المصدر: BlockBeats)

شاهد النسخة الأصلية

قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.

أعجبني
إعجاب
تعليق
إعادة النشر
مشاركة

تعليق

إضافة تعليق

لا توجد تعليقات

المواضيع الرائجة
عرض المزيد
#
MyGateTradeStory
50.03K درجة الشعبية
#
USMayCPIHitsThreeYearHigh
314.08K درجة الشعبية
#
IsraelStrikesIranBTCPlunges
57.21K درجة الشعبية
#
USIranConflictEscalates
694.55K درجة الشعبية
#
GateLaunchesHongKongStockTrading
670.3K درجة الشعبية

مُثبت

خريطة الموقع

تعرّضت لانتقادات من المجتمع لقيامها بأعمال تخريب سرية، واعتذرت شركة أنثروبيك وألغت قيود خفض مستوى سرية كلود

المواضيع الرائجة

MyGateTradeStory

USMayCPIHitsThreeYearHigh

IsraelStrikesIranBTCPlunges

USIranConflictEscalates

GateLaunchesHongKongStockTrading

مُثبت