NVIDIA publie un tutoriel pour construire un assistant IA local en sandbox basé sur NemoClaw

robot
Création du résumé en cours
Actualités ME, le 18 avril (UTC+8), NVIDIA a récemment publié un tutoriel technique guidant les développeurs sur la façon de construire un assistant IA autonome sécurisé, durable et entièrement local. Ce tutoriel est basé sur la pile de référence open source de NVIDIA, NemoClaw, qui intègre OpenShell Runtime sécurisé et OpenClaw passerelle auto-hébergée, visant à résoudre les risques de confidentialité des données et de contrôle lors du déploiement d'agents IA sur des clouds tiers. Le tutoriel détaille les étapes de déploiement sur le système NVIDIA DGX Spark (GB10), y compris la configuration de l'environnement, le modèle de service local, l'installation de la pile et la connexion à Telegram. Le déploiement nécessite de satisfaire à des prérequis matériels spécifiques (DGX Spark fonctionnant sous Ubuntu 24.04 LTS), logiciels (Docker 28.x+ , Ollama) ainsi que la création d'un jeton de bot Telegram. La durée d'intervention active est estimée à 20-30 minutes, plus 15-30 minutes pour le téléchargement initial du modèle (environ 87 Go). Les composants clés incluent NemoClaw, OpenShell, OpenClaw, Nemotron 3 Super 120B LLM ainsi que le déploiement d'inférence NIM ou Ollama. L'article indique également que, bien qu'OpenShell offre de puissantes fonctionnalités d'isolation, aucun bac à sable ne peut offrir une protection complète contre les injections de prompts avancés, et il est conseillé de déployer ces outils sur un système isolé lors des tests. (Source : InFoQ)
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
  • Récompense
  • 7
  • 1
  • Partager
Commentaire
Ajouter un commentaire
Ajouter un commentaire
GateUser-26f91b48
· Il y a 8h
Le point de vente de déploiement sécurisé à long terme m'a convaincu, je suis toujours préoccupé par la fuite de données avec l'API cloud
Voir l'originalRépondre0
FomoLibrarian
· Il y a 10h
OpenShell + OpenClaw, ce nom de combinaison ressemble à une armurerie cyberpunk
Voir l'originalRépondre0
0xLateDiner
· Il y a 10h
Ubuntu 24.04 + Docker 28.x environnement requis, expliqué en détail, pour être convivial pour les débutants
Voir l'originalRépondre0
PixelUniverseCat
· Il y a 10h
Les tests du système d'isolation sont la ligne de fond, j'ai déjà vu trop de cas d'échec d'IA locale auparavant
Voir l'originalRépondre0
GasFeeAnxiety
· Il y a 10h
Nemotron 3 Super 120B local, cela compte-t-il comme le plus grand modèle accessible au niveau grand public ?
Voir l'originalRépondre0
MempoolDaydream
· Il y a 10h
Le téléchargement du modèle de 87 Go décourage, mais exécuter localement un 120B est vraiment attrayant
Voir l'originalRépondre0
SushiSlippage
· Il y a 10h
Sans sandbox, il est impossible de se défendre complètement contre les injections de prompts avancés. Cette remarque est très pertinente, tous les vétérans de la sécurité la comprennent.
Voir l'originalRépondre0
  • Épinglé