NVIDIA publica tutorial para construir un asistente de IA en sandbox local basado en NemoClaw

robot
Generación de resúmenes en curso
ME News Noticias, 18 de abril (UTC+8), NVIDIA publicó recientemente un tutorial técnico que guía a los desarrolladores sobre cómo construir un asistente de IA autónomo, seguro, de funcionamiento prolongado y completamente local. El tutorial se basa en la pila de referencia de código abierto de NVIDIA, NemoClaw, que integra OpenShell en tiempo de ejecución seguro y OpenClaw como puerta de enlace autohospedada, con el objetivo de abordar los riesgos de privacidad y control de datos al desplegar agentes de IA en la nube de terceros. El tutorial demuestra en detalle los pasos de despliegue en el sistema NVIDIA DGX Spark (GB10), incluyendo la configuración del entorno, el modelo de servicio local, la instalación de la pila y la conexión a Telegram. El despliegue requiere cumplir con ciertos requisitos de hardware (DGX Spark con Ubuntu 24.04 LTS), software (Docker 28.x+, Ollama) y la creación de un token de bot de Telegram, entre otros. Se estima que la operación activa toma entre 20 y 30 minutos, además de 15 a 30 minutos para la descarga inicial del modelo (aproximadamente 87 GB). Los componentes principales incluyen NemoClaw, OpenShell, OpenClaw, Nemotron 3 Super 120B LLM y la implementación de inferencia con NIM o Ollama. El artículo también señala que, aunque OpenShell ofrece funciones de aislamiento potentes, ningún sandbox puede ofrecer protección completa contra inyecciones avanzadas de indicaciones, recomendando desplegar nuevas herramientas en sistemas aislados durante las pruebas. (Fuente: InFoQ)
Ver original
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
  • Recompensa
  • 5
  • 2
  • Compartir
Comentar
Añadir un comentario
Añadir un comentario
GateUser-26f91b48
· hace1h
El conjunto de token del bot de Telegram es bastante interesante, interacción remota + potencia de cálculo local
Ver originalResponder0
PerpNightRunner
· hace1h
La prueba del sistema de aislamiento es muy importante, después de todo, nadie quiere que su entorno principal sea comprometido por una advertencia de inyección que cause un fallo.
Ver originalResponder0
GasFeesForNightRuns
· hace1h
Nemotron 3 Super 120B ejecutándose localmente, la factura de electricidad podría ser más impactante que la API en la nube
Ver originalResponder0
WhaleInAGlassBottle
· hace1h
Ubuntu 24.04 + Docker 28.x,las versiones son bastante nuevas, las máquinas viejas mejor no se apresuren a probar
Ver originalResponder0
ResilientGoldfish
· hace1h
Modelo de 87GB, el disco duro está temblando
Ver originalResponder0
  • Fijado