الباحثون يكشفون عن هجوم HalluSquatting الذي يستغل هلوسات الذكاء الاصطناعي
طور باحثون من جامعة تل أبيب ومعهد التكنولوجيا الإسرائيلي وIntuit تقنية هجوم إلكتروني تسمى Adversarial HalluSquatting تستغل هلوسات مولدة بواسطة الذكاء الاصطناعي لاختراق وكلاء الذكاء الاصطناعي. يخدع الهجوم أنظمة الذكاء الاصطناعي لتثق في مستودعات برمجية أو أدوات زائفة تحتوي على تعليمات خبيثة من خلال التنبؤ بالمصادر غير الموجودة التي من المحتمل أن يولدها نماذج الذكاء الاصطناعي، وتسجيل تلك الأسماء، ودمج رمز ضار. تظهر الثغرة مع تطور قدرات المساعدين الذكيين على التفاعل مع الحواسيب — مثل الوصول إلى المل
OliverGrant·07-09 21:53
