Publication

Même les packs de compétences officiels d’Anthropic sont jugés à ne pas installer par le scanner de NVIDIA, c’est pas dingue ?😂


Je l’ai utilisé pour analyser les 7 packs de compétences les plus populaires : sur 134 compétences, 20 ont été jugées à ne pas installer. J’ai ouvert les 5 signalées comme les plus dangereuses : ce sont toutes des opérations normales. Je n’ai donc pas vérifié les 15 autres une par une…
Aujourd’hui, des IA comme Claude Code et Codex peuvent installer des packs de compétences.
Un pack de compétences, c’est un manuel et quelques scripts. Une fois installé, l’IA suit ses instructions et a accès à toutes les autorisations de votre ordinateur. NVIDIA a étudié plus de 30 000 compétences et un quart d’entre elles présentaient des failles. C’est pourquoi l’entreprise a publié ce scanner open source, appelé SkillSpector, qui compte déjà 26 000 étoiles sur GitHub.
Il y a deux façons de l’utiliser : l’une est gratuite et analyse le code selon des règles, l’autre nécessite de se connecter à un grand modèle et de renseigner une clé API.
J’ai utilisé la version gratuite. Parmi les 19 compétences officielles d’Anthropic, 5 ont été jugées à ne pas installer. Le pack de compétences de trading sur Claude que j’avais testé hier a aussi été jugé à ne pas installer.
En regardant de plus près, le pack de trading a été signalé comme volant des clés, alors que le code utilise en réalité votre propre clé de courtage pour consulter votre compte sur le site officiel de votre courtier.
L’outil de création de présentations PowerPoint d’Anthropic supprime la présentation créée précédemment pour en générer une nouvelle, mais le scanner a aussi signalé cela comme une opération dangereuse.
On peut donc prendre avec des pincettes ses verdicts « à ne pas installer » et « risque élevé », mais ne pas les croire aveuglément non plus.
Avant d’installer un pack de compétences créé par un inconnu, analysez-le et regardez les quelques lignes signalées : la clé est-elle envoyée vers une URL officielle ou inconnue ? Le pack lit-il les fichiers de votre portefeuille ou les clés SSH utilisées pour vous connecter à un serveur ?
Je n’ai pas encore testé la version connectée à un grand modèle ; je vous en dirai plus une prochaine fois.😂
Voir l'original
post-image
Cette page contient du contenu tiers, ne constitue aucun conseil et ne représente pas l’approbation par Gate de ces points de vue. Pour plus de détails, veuillez consulter l’avertissement.
NVDANVDA-0,61%


Ajouter un commentaire
Ajouter un commentaire

Commentaire 2
Starry Sky earns one hundred million yuan
加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油加油
7788x
😃