NVIDIA publica tutorial para construir un asistente de IA en un entorno local y sandbox basado en NemoClaw

robot
Generación de resúmenes en curso
ME News Noticias, 18 de abril (UTC+8), NVIDIA publicó recientemente un tutorial técnico que guía a los desarrolladores sobre cómo construir un asistente de IA autónomo, seguro, de funcionamiento prolongado y completamente local. El tutorial se basa en la pila de referencia de código abierto de NVIDIA, NemoClaw, que integra OpenShell en tiempo de ejecución seguro y OpenClaw como puerta de enlace autohospedada, con el objetivo de abordar los riesgos de privacidad y control de datos al desplegar agentes de IA en la nube de terceros. El tutorial demuestra en detalle los pasos de despliegue en el sistema NVIDIA DGX Spark (GB10), incluyendo la configuración del entorno, el modelo de servicio local, la instalación de la pila y la conexión a Telegram. El despliegue requiere cumplir con ciertos requisitos de hardware (DGX Spark con Ubuntu 24.04 LTS), software (Docker 28.x+, Ollama) y la creación de un token de bot de Telegram, entre otros. Se estima que la operación activa toma entre 20 y 30 minutos, además de 15 a 30 minutos para la descarga inicial del modelo (aproximadamente 87 GB). Los componentes principales incluyen NemoClaw, OpenShell, OpenClaw, Nemotron 3 Super 120B LLM y la implementación de inferencia con NIM o Ollama. El artículo también señala que, aunque OpenShell ofrece funciones de aislamiento potentes, ningún sandbox puede ofrecer protección completa contra inyecciones avanzadas de indicaciones, recomendando desplegar estas herramientas en sistemas aislados durante las pruebas. (Fuente: InFoQ)
Ver original
Esta página puede contener contenido de terceros, que se proporciona únicamente con fines informativos (sin garantías ni declaraciones) y no debe considerarse como un respaldo por parte de Gate a las opiniones expresadas ni como asesoramiento financiero o profesional. Consulte el Descargo de responsabilidad para obtener más detalles.
  • Recompensa
  • 7
  • 1
  • Compartir
Comentar
Añadir un comentario
Añadir un comentario
GateUser-26f91b48
· hace11h
El argumento de una implementación segura a largo plazo me impactó, siempre me preocupa la filtración de datos en las API en la nube.
Ver originalResponder0
FomoLibrarian
· hace14h
OpenShell + OpenClaw Esta combinación suena como un arsenal ciberpunk
Ver originalResponder0
0xLateDiner
· hace14h
Ubuntu 24.04 + Docker 28.x requisitos del entorno escritos tan detalladamente, amigable para principiantes
Ver originalResponder0
PixelUniverseCat
· hace14h
Las pruebas del sistema de aislamiento son la línea base, he visto demasiados casos de fallos de IA local anteriormente.
Ver originalResponder0
GasFeeAnxiety
· hace14h
Nemotron 3 Super 120B local, ¿esto se considera el modelo más grande con el que se puede experimentar a nivel de consumo?
Ver originalResponder0
MempoolDaydream
· hace14h
La descarga de modelos de 87GB disuade, pero correr localmente un 120B es realmente atractivo
Ver originalResponder0
SushiSlippage
· hace14h
Sin sandbox, puede resistir completamente la inyección de indicaciones avanzadas. Este recordatorio es muy útil, los veteranos en seguridad lo entienden.
Ver originalResponder0