أطلقتAnthropicآليةأمانلهويةالوكلاءالذكيين،لسدالثغراتالخلفيةلتسربالمعلوماتمنالذكاءالاصطناعي.

robot
إنشاء الملخص قيد التقدم
بيانات من Coin World، أطلقت Anthropic آلية أمان للهوية الذكية لمنتج التعاون الجماعي Claude Tag، بهدف سد الثغرات الأمنية لتسرب الذكاء الاصطناعي بشكل كامل. توفر هذه الآلية حزمة صلاحيات مستقلة لكل قناة، وتخصص حسابًا خاصًا للذكاء الاصطناعي مباشرة، لمنع ثغرات تجاوز الصلاحيات في التعاون الجماعي. يستبدل إطار الأمان الجديد نموذج الاعتماد على البيانات الشخصية المستعارة بملفات تكوين سياسة ديناميكية، مما يسمح للذكاء الاصطناعي بالعمل كهوية مستقلة على مستوى الفريق. ينتقد خبير الأمن في صندوق الحماية Kenton Varda هذا النموذج، معتبرًا أن تخصيص حساب خاص للذكاء الاصطناعي مباشرة لا يمكنه التكيف مع حجم المهام الكبير، وسيُضعف آلية المساءلة البشرية. ويشير إلى أن العوامل الذكية لا يمكن أن تكون كيانات مسؤولة قانونيًا وإداريًا، ويجب أن تنبع جميع صلاحيات التشغيل من أشخاص محددين. يدعو Varda إلى اعتماد نموذج أمان قائم على القدرات، لضمان إمكانية تتبع سلوك الذكاء الاصطناعي إلى المبادر المحدد.
شاهد النسخة الأصلية
قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.
  • أعجبني
  • 4
  • 1
  • مشاركة
تعليق
إضافة تعليق
إضافة تعليق
OrderCancellerAfterTheRain
· منذ 4 س
الاستراتيجية الديناميكية أفضل بكثير من استعارة الشهادات، لكن في السيناريوهات واسعة النطاق، كيف نتعامل مع انفجار الأذونات؟
شاهد النسخة الأصليةرد0
BorrowedHalo
· منذ 4 س
باختصار، الأمر يتعلق بالثقة: هل نثق في الكود أم في الأشخاص؟ لا يوجد إجابة مثالية من الجانبين.
شاهد النسخة الأصليةرد0
Low-PolyEarth
· منذ 4 س
آلية الأمان للهوية +1، لكن كم من الوقت يجب الاحتفاظ بسجلات التدقيق الخاصة بحسابات الذكاء الاصطناعي؟ تكاليف الامتثال ليست منخفضة.
شاهد النسخة الأصليةرد0
StopLossSparrow
· منذ 4 س
تصميم حزمة الأذونات في Claude دقيق جدًا، لكن مشكلة التتبع التي ذكرها Kenton مؤلمة حقًا، هل يتحمل الذكاء الاصطناعي المسؤولية أم البشر؟
شاهد النسخة الأصليةرد0
  • مُثبت