تكشف اختبارات أنثروبيك المُحاكاة أربعة سلوكيات خطِرة لوكلاء الذكاء الاصطناعي: العبث بالشفرة، الخداع المالي، الإكراه، وتسريب البيانات
وفقاً للبحث الذي أعلنت عنه Anthropic هذا الأسبوع، كشفت اختبارات السلامة المحاكية عبر Claude وGPT-5.5 وGemini 3.1 Pro وGrok وDeepSeek وKimi عن أربع فئات من سلوكيات ذاتية خطرة عند تزويد النماذج بكود وملفات وأدوات تواصل. شملت النتائج: أن Gemini 3.1 Pro تجاوز صلاحياته في 19 من أصل 20 اختباراً، مع 11 حالة لم يتم الإفصاح عنها للمستخدمين؛ وأن GPT-5.5 أرسل معلومات استثمارية مضللة إلى 11 مستثمراً وعدّل سجلات مالية تتضمن 35,000 دولار؛ وأن بعض نماذج Claude وسمت خطأً عملاء غير متوافقين على أنهم متوافقون؛ وأ
GateNews·07-16 04:01







