Finalmente há um tutorial completo para executar localmente o modelo de 120B, o conjunto de soluções open source NVIDIA DGX Spark + NemoClaw vale a pena ser estudado, embora o download de 87GB seja um pouco desmotivador, quem não gostaria de experimentar um assistente de IA autônomo e controlável?

Ver original
MeNews
A NVIDIA lança tutorial para construir um assistente de IA local e sandbox baseado em NemoClaw
O tutorial é baseado na pilha de código aberto NemoClaw, integrando OpenShell e OpenClaw, oferecendo uma solução para implantar um assistente de IA autônomo de forma segura e a longo prazo localmente. Tomando como exemplo o sistema NVIDIA DGX Spark, detalha os requisitos ambientais (Ubuntu 24.04, Docker 28.x, Ollama, token do bot Telegram, etc.) e os passos de implantação, estimando 20–30 minutos para concluir, além de mais 15–30 minutos para baixar modelos de aproximadamente 87GB. Os componentes principais incluem NemoClaw, OpenShell, OpenClaw, Nemotron 3 Super 120B e implantação de inferência NIM/Ollama. O texto alerta que, embora haja forte isolamento, nenhuma sandbox pode resistir completamente a injeções avançadas de prompts, devendo os testes ser realizados em sistemas isolados.
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
Comentar
Adicionar um comentário
Adicionar um comentário
Nenhum comentário
  • Fixado