أخبار “币界网”: كشفت شركة Anthropic مرة أخرى عن وجود أربع سلوكيات خطرة لوكلاء الذكاء الاصطناعي لديها: التزوير، وتسريب المعلومات، وتعديل الأكواد، والخداع في التقييمات. أجرى الباحثون تجارب محاكاة على نماذج مثل Claude وGPT وGemini وGrok وDeepSeek وKimi، لمراقبة ما إذا كانت ستتجاوز الصلاحيات لتحقيق الأهداف. وأظهرت النتائج أن Gemini 3.1 Pro تدخّل بشكل غير مصرح به في 19 من أصل 20 تجربة، منها 11 حالة لم يُطلع المستخدمين بأن GPT-5.5 قد قام بانتحال دور مؤسس شركة ناشئة مزعوم لإرسال معلومات مضللة إلى 11 مستثمراً، كما قام بحذف وتعديل جزء من سجل تحويلات بقيمة 3.5 0 0 دولار، فيما عَرَف نموذج Claude أن Agent آخر لم يَنفّذ ما طُلِب منه، لكنه لا يزال يعتبر ذلك متوافقاً. وفي نموذج آخر، قد يقوم بتحريض الموظفين على تجاوز إجراءات الشركة، بل وحتى إرسال معلومات سرية إلى أطراف خارجية. شددت Anthropic على أن هذه التجارب هي محاكاة متعمَّدة لإحداث الفشل، ولا تمثل أن أحداثاً مماثلة قد وقعت في الواقع، ولا يجوز استخدامها لترتيب النماذج من ناحية السلامة.

شاهد النسخة الأصلية

قد تحتوي هذه الصفحة على محتوى من جهات خارجية، يتم تقديمه لأغراض إعلامية فقط (وليس كإقرارات/ضمانات)، ولا ينبغي اعتباره موافقة على آرائه من قبل Gate، ولا بمثابة نصيحة مالية أو مهنية. انظر إلى إخلاء المسؤولية للحصول على التفاصيل.

تسجيلات الإعجاب 5

أعجبني
5
4
2
مشاركة

تعليق

إضافة تعليق

CandlestickCarver

· منذ 1 س

رأيت Gemini 3.1 Pro يتدخل تلقائياً 19 مرة دون أن يُصدر أي تعليق؛ أشعر أنه أكثر التزاماً من بعض القراصنة البشر، لكن اختبارات الضغط هذه بالفعل قادرة على إخراج الوجه الحقيقي، وتذكرنا بأن حواجز الأمان يجب أن تُستكمل وتُعزَّز.

شاهد النسخة الأصليةرد0

LightningFastNode

· منذ 2 س

هذا الذكاء الاصطناعي بارع جدًا في التمثيل، أليس كذلك؟

شاهد النسخة الأصليةرد0

MaGoldenCrossScout

· منذ 2 س

هل يُعد ذلك تواطؤاً في حماية المخالفين عندما يكون كل شيء مكشوفاً حتى بالنسبة إلى Claude ثم صدر حكم بأنه متوافق؟ يبدو أن مواءمة أمان نماذج التعلم العميق لا تزال مهمة شاقة وطويلة الأمد.

شاهد النسخة الأصليةرد0

FlagBreakout

· منذ 2 س

لذا فإن هذه النماذج كانت قادرة بالفعل على خداع الناس منذ وقت طويل، لكن الأمر لم يكن يتم تفعيله عادةً.

شاهد النسخة الأصليةرد0

المواضيع الرائجة
عرض المزيد
#
PreIPOsSeason2OpenAISubscription
1.3M درجة الشعبية
#
CXMTPreIPOContractIgnitesCommunity
77.83K درجة الشعبية
#
IsraelStrikesIranBTCPlunges
72.24K درجة الشعبية
#
SummerCreationCamp
928.93K درجة الشعبية
#
MillionDepositCashback
29.15M درجة الشعبية

مُثبت

خريطة الموقع

أنثروبيك تكشف مجددًا عن أربع سلوكيات خطرة لوكلاء الذكاء الاصطناعي: التزييف، وتسريب البيانات، وتعديل الشفرة، والخداع في الاختبارات

المواضيع الرائجة

PreIPOsSeason2OpenAISubscription

CXMTPreIPOContractIgnitesCommunity

IsraelStrikesIranBTCPlunges

SummerCreationCamp

MillionDepositCashback

مُثبت