NVIDIA publica tutorial para construir un asistente de IA en un entorno local y sandbox basado en NemoClaw

robot
Generación de resúmenes en curso
ME News Noticias, 18 de abril (UTC+8), NVIDIA publicó recientemente un tutorial técnico que guía a los desarrolladores sobre cómo construir un asistente de IA autónomo, seguro, de funcionamiento prolongado y completamente local. El tutorial se basa en la pila de referencia de código abierto de NVIDIA, NemoClaw, que integra OpenShell en tiempo de ejecución seguro y OpenClaw como puerta de enlace autohospedada, con el objetivo de abordar los riesgos de privacidad y control de datos al desplegar agentes de IA en la nube de terceros. El tutorial demuestra en detalle los pasos de despliegue en el sistema NVIDIA DGX Spark (GB10), incluyendo la configuración del entorno, modelos de servicios locales, instalación de la pila y conexión a Telegram. El despliegue requiere cumplir con ciertos requisitos previos de hardware (DGX Spark con Ubuntu 24.04 LTS), software (Docker 28.x+, Ollama) y la creación de un token de bot de Telegram. Se estima que la operación activa toma entre 20 y 30 minutos, además de 15 a 30 minutos para la descarga inicial del modelo (aproximadamente 87 GB). Los componentes principales incluyen NemoClaw, OpenShell, OpenClaw, Nemotron 3 Super 120B LLM y despliegues de inferencia con NIM u Ollama. El artículo también señala que, aunque OpenShell ofrece funciones de aislamiento potentes, ningún sandbox puede ofrecer protección completa contra inyecciones avanzadas de indicaciones, recomendando desplegar nuevas herramientas en sistemas aislados durante las pruebas. (Fuente: InFoQ)
Ver original
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
  • Recompensa
  • 7
  • 2
  • Compartir
Comentar
Añadir un comentario
Añadir un comentario
Half-SectionedSucculent
· hace5h
Las pruebas del sistema de aislamiento son una lección amarga; antes, jugar con LLM casi colapsa el entorno principal.
Ver originalResponder0
FomoLibrarian
· hace5h
¿Puedes ponerlo en marcha en solo 20 minutos? Más rápido que montar un nodo para mí
Ver originalResponder0
ReefUnderTheMoonlight
· hace5h
Opciones de doble inferencia NIM/Ollama, máxima flexibilidad
Ver originalResponder0
DaoPeripheralWorker
· hace5h
La mayor ventaja de la pila de código abierto es que se puede modificar a voluntad, esperando que una comunidad haga un fork.
Ver originalResponder0
FloatingMirrorSphere
· hace5h
Ubuntu 24.04+LTS,¡una locura para los controladores de versiones!
Ver originalResponder0
CapitalFlowInATeacup
· hace5h
Ejecutar 120 mil millones de parámetros localmente, ¿aún sería efectivo después de la cuantificación?
Ver originalResponder0
ViewingNarrativesFromAHotAir
· hace5h
Bajo el modelo de 87GB, se agota la memoria y el disco duro está en llamas
Ver originalResponder0
  • Fijado