Des chercheurs dévoilent l'attaque HalluSquatting exploitant les hallucinations de l'IA
Des chercheurs de l’Université de Tel Aviv, du Technion et d’Intuit ont présenté une technique d’attaque informatique appelée Adversarial HalluSquatting, exploitant des hallucinations générées par l’IA pour compromettre des agents d’IA. L’attaque consiste à tromper les systèmes d’IA en leur faisant faire confiance à de faux dépôts logiciels ou outils contenant des instructions malveillantes, en prédisant quels ressources inexistantes les modèles d’IA sont susceptibles de générer, en enregistrant
OliverGrant·07-09 21:53
