Para peneliti ungkap serangan HalluSquatting yang memanfaatkan halusinasi AI
Peneliti dari Universitas Tel Aviv, Technion, dan Intuit memperkenalkan teknik serangan siber bernama Adversarial HalluSquatting yang memanfaatkan halusinasi yang dihasilkan AI untuk mengompromikan agen AI. Serangan ini menipu sistem AI agar mempercayai repositori perangkat lunak palsu atau alat yang berisi instruksi berbahaya dengan memprediksi sumber daya yang tidak ada yang kemungkinan akan dihasilkan model AI, mendaftarkan nama tersebut, dan menyisipkan kode berbahaya. Kerentanan ini muncul
OliverGrant·07-09 21:53
