Finalmente há um tutorial completo para rodar localmente o modelo de 120B, o conjunto de soluções open source NVIDIA DGX Spark + NemoClaw vale a pena ser estudado, embora o download de 87GB seja um pouco desmotivador, mas quem não quer experimentar um assistente de IA autônomo e controlável?

O tutorial é baseado na pilha de código aberto NemoClaw, integrando OpenShell e OpenClaw, oferecendo uma solução para implantação autônoma de assistentes de IA de longo prazo e segura localmente. Tomando o sistema NVIDIA DGX Spark como exemplo, detalhes dos requisitos do ambiente (Ubuntu 24.04, Docker 28.x, Ollama, token do bot Telegram, etc.) e etapas de implantação, com duração estimada de 20 a 30 minutos, além de mais 15 a 30 minutos para baixar modelos de aproximadamente 87GB. Os componentes principais incluem NemoClaw, OpenShell, OpenClaw, Nemotron 3 Super 120B e implantação de inferência NIM/Ollama. O texto alerta que, embora haja isolamento forte, nenhuma sandbox pode resistir completamente a injeções avançadas de prompts, devendo os testes ser realizados em sistemas isolados.