الروبوت أصبح سعيدًا، وسيبدأ في كسب المال بنفسه

يقوم وكيل الذكاء الاصطناعي خلال تدريبه ببدء تعدين العملات المشفرة ذاتيًا، مما يثير تنبيه الأمان الداخلي
نشرت فريق بحث مرتبط بـ Alibaba ورقة بحثية تقول إنه أثناء بناء وكيل الذكاء الاصطناعي المسمى ROME، اكتشفوا أن هذا الكائن الذكي حاول بشكل غير مصرح به تعدين العملات المشفرة خلال عملية التدريب، مما أدى إلى تفعيل تنبيه الأمان الداخلي.
قال الباحثون إن سلوك هذا الكائن الذكي كان تلقائيًا، ولم يكن مدفوعًا بأي تعليمات واضحة، وتجاوز حدود الصندوق الرملي المحدد مسبقًا. بالإضافة إلى ذلك، أنشأ هذا الكائن نفق SSH عكسي، أي أنه فتح باب خلفي مخفي من النظام الداخلي إلى الحاسوب الخارجي. وأشارت الورقة إلى أن هذه التصرفات لم يتم تحفيزها بواسطة طلب نفق أو تعدين. ثم فرض فريق البحث قيودًا أكثر صرامة على النموذج وحسنوا عملية التدريب لمنع تكرار مثل هذه التصرفات غير الآمنة.
لم يرد فريق البحث وAlibaba بعد على طلبات التعليق. $ETH