A NVIDIA lança tutorial para construir um assistente de IA local e sandbox baseado em NemoClaw

robot
Geração de resumo em curso
Notícias ME, 18 de abril (UTC+8), a NVIDIA publicou recentemente um tutorial técnico que orienta os desenvolvedores sobre como construir um assistente de IA autônomo seguro, de funcionamento prolongado e totalmente local.
Este tutorial é baseado na pilha de referência de código aberto da NVIDIA, NemoClaw, que integra o tempo de execução seguro OpenShell e a gateway autogerida OpenClaw, com o objetivo de resolver os riscos de privacidade de dados e controle ao implantar agentes de IA em nuvens de terceiros.
O tutorial demonstra detalhadamente as etapas de implantação no sistema NVIDIA DGX Spark (GB10), incluindo configuração do ambiente, modelo de serviço local, instalação da pilha e conexão ao Telegram.
A implantação requer atender a pré-requisitos específicos de hardware (DGX Spark rodando Ubuntu 24.04 LTS), software (Docker 28.x+, Ollama) e a criação de um token de bot do Telegram.
O tempo ativo estimado é de 20-30 minutos, além de 15-30 minutos para o download inicial do modelo (aproximadamente 87 GB).
Os componentes principais incluem NemoClaw, OpenShell, OpenClaw, Nemotron 3 Super 120B LLM e implantação de inferência NIM ou Ollama.
O texto também aponta que, embora o OpenShell ofereça recursos de isolamento robustos, nenhuma sandbox pode fornecer proteção completa contra injeções avançadas de prompts, recomendando que, ao testar novas ferramentas, elas sejam implantadas em sistemas isolados. (Fonte: InFoQ)
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • 7
  • 2
  • Partilhar
Comentar
Adicionar um comentário
Adicionar um comentário
Half-SectionedSucculent
· 7h atrás
O teste do sistema de isolamento é uma lição amarga, quase destruí a ambiente principal ao brincar com LLM antes.
Ver originalResponder0
FomoLibrarian
· 7h atrás
Consegue ficar online em 20 minutos? Mais rápido do que eu montar um nó
Ver originalResponder0
ReefUnderTheMoonlight
· 8h atrás
Opções de dupla inferência NIM/Ollama, máxima flexibilidade
Ver originalResponder0
DaoPeripheralWorker
· 8h atrás
A maior vantagem da pilha de código aberto é a possibilidade de modificar livremente, aguardando que uma comunidade faça um fork
Ver originalResponder0
FloatingMirrorSphere
· 8h atrás
Ubuntu 24.04+LTS,paixão pelo controlo de versões
Ver originalResponder0
CapitalFlowInATeacup
· 8h atrás
Executar localmente com 120 bilhões de parâmetros, será que o desempenho ainda é bom após a quantização?
Ver originalResponder0
ViewingNarrativesFromAHotAir
· 8h atrás
Com o modelo de 87GB, estou ficando sem espaço, o disco está a queimar.
Ver originalResponder0
  • Fixado