NVIDIA publica tutorial para construir un asistente de IA en un entorno local y sandbox basado en NemoClaw

robot
Generación de resúmenes en curso
ME News Noticias, 18 de abril (UTC+8), NVIDIA publicó recientemente un tutorial técnico que guía a los desarrolladores sobre cómo construir un asistente de IA autónomo, seguro, de funcionamiento prolongado y completamente local. El tutorial se basa en la pila de referencia de código abierto de NVIDIA, NemoClaw, que integra OpenShell en tiempo de ejecución seguro y OpenClaw como puerta de enlace autohospedada, con el objetivo de abordar los riesgos de privacidad y control de datos al desplegar agentes de IA en la nube de terceros. El tutorial demuestra en detalle los pasos de despliegue en el sistema NVIDIA DGX Spark (GB10), incluyendo la configuración del entorno, el modelo de servicio local, la instalación de la pila y la conexión a Telegram. El despliegue requiere cumplir con ciertos requisitos de hardware (DGX Spark con Ubuntu 24.04 LTS), software (Docker 28.x+ , Ollama) y la creación de un token de bot de Telegram, entre otros. Se estima que la operación activa toma entre 20 y 30 minutos, además de 15 a 30 minutos para la descarga inicial del modelo (aproximadamente 87 GB). Los componentes principales incluyen NemoClaw, OpenShell, OpenClaw, Nemotron 3 Super 120B LLM y la implementación de inferencia con NIM u Ollama. El artículo también señala que, aunque OpenShell ofrece funciones de aislamiento potentes, ningún sandbox puede proporcionar protección completa contra inyecciones avanzadas de indicaciones, recomendando desplegarlo en sistemas aislados al probar nuevas herramientas. (Fuente: InFoQ)
NVDA-2,03%
Ver original
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
  • Recompensa
  • 7
  • Republicar
  • Compartir
Comentar
Añadir un comentario
Añadir un comentario
0XsundayCook
· hace4h
El diseño de la clave del bot de Telegram es bueno, puede ajustar su IA en cualquier momento y lugar.
Ver originalResponder0
TheFeelingOfEthInTheSeaBreeze
· hace4h
La prueba del sistema de aislamiento es muy importante, no hagas experimentos en la máquina principal.
Ver originalResponder0
LiquidityTeaMaster
· hace4h
NemoClaw este nombre es bastante interesante, la combinación de OpenShell + OpenClaw suena muy robusta
Ver originalResponder0
Yield慢炖锅
· hace5h
Pila de código abierto + tutorial detallado, un tesoro para los usuarios que desean abandonar los servicios en la nube
Ver originalResponder0
NFTeaTime
· hace5h
Nemotron 3 Super 120B ejecutándose localmente, en cuanto a privacidad, es realmente mucho mejor que en la nube
Ver originalResponder0
BluePeonyDarkroom
· hace5h
Desplegar en 20-30 minutos es bastante rápido, pero el tiempo de descarga del modelo se calcula por separado, hay que planificar con anticipación.
Ver originalResponder0
ForkliftTrader
· hace5h
Ubuntu 24.04 + Docker 28.x,el entorno requiere bastante actualizado, las máquinas antiguas quizás necesiten actualizarse primero
Ver originalResponder0
  • Fijado