NVIDIA publie un tutoriel pour construire un assistant IA local en sandbox basé sur NemoClaw

robot
Création du résumé en cours
ME News Actualités, le 18 avril (UTC+8), NVIDIA a récemment publié un tutoriel technique guidant les développeurs sur la façon de construire un assistant IA autonome sécurisé, fonctionnant en continu et entièrement local. Ce tutoriel est basé sur la pile de référence open source de NVIDIA, NemoClaw, qui intègre OpenShell Runtime sécurisé et OpenClaw Gateway auto-hébergé, visant à résoudre les risques de confidentialité des données et de contrôle lors du déploiement d'agents IA sur des clouds tiers. Le tutoriel détaille les étapes de déploiement sur le système NVIDIA DGX Spark (GB10), y compris la configuration de l'environnement, le modèle de service local, l'installation de la pile et la connexion à Telegram. Le déploiement nécessite de satisfaire à des prérequis matériels spécifiques (DGX Spark fonctionnant sous Ubuntu 24.04 LTS), logiciels (Docker 28.x+ , Ollama) ainsi que la création d’un jeton de bot Telegram. La durée d'intervention active est estimée à 20-30 minutes, plus 15-30 minutes pour le téléchargement initial du modèle (environ 87 Go). Les composants clés incluent NemoClaw, OpenShell, OpenClaw, Nemotron 3 Super 120B LLM ainsi que le déploiement d'inférence NIM ou Ollama. L’article indique également que, bien qu’OpenShell offre de puissantes fonctionnalités d’isolation, aucun sandbox ne peut offrir une protection complète contre les injections de prompts avancés, et il est conseillé de déployer ces outils dans un système isolé lors des tests. (Source : InFoQ)
Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
  • Récompense
  • 11
  • 3
  • Partager
Commentaire
Ajouter un commentaire
Ajouter un commentaire
QuietAirdropper
· Il y a 9h
OpenShell+OpenClaw, ce nom de combinaison est plutôt cool
Voir l'originalRépondre0
GateUser-94818fd0
· Il y a 9h
Le téléchargement de 87 Go décourage, y a-t-il une solution légère ?
Voir l'originalRépondre0
Salt-BakedBabyPotatoes
· Il y a 9h
NemoClaw open source apprécié, je vais étudier le code.
Voir l'originalRépondre0
TheSkyInsideTheMirroredSphere
· Il y a 9h
Y a-t-il des données de test pour la stabilité à long terme du déploiement ?
Voir l'originalRépondre0
AuroraSnowyWildernessSolitary
· Il y a 9h
Pouvez-vous expliquer plus en détail la partie concernant le jeton du bot Telegram ?
Voir l'originalRépondre0
ProofOfSnack
· Il y a 9h
Sans sandbox, il est possible de résister complètement à l'injection de prompts avancés — cette phrase mérite d'être encadrée.
Voir l'originalRépondre0
GateUser-953e1a14
· Il y a 9h
Les avertissements d'injection de prompts sont très concrets, la sécurité avant tout
Voir l'originalRépondre0
Don'tCallMeABagHolder.
· Il y a 9h
Ubuntu 24.04 vient de sortir, toujours à la pointe de la tendance
Voir l'originalRépondre0
SeaSaltMarketMakingNotes
· Il y a 9h
Docker 28.x exige des versions assez récentes, l'ancien environnement doit être mis à jour
Voir l'originalRépondre0
ProofOfNap
· Il y a 9h
Ce rappel de test du système d'isolation est professionnel
Voir l'originalRépondre0
Afficher plus
  • Épinglé