A NVIDIA lança tutorial para construir um assistente de IA local e sandbox baseado em NemoClaw

robot
Geração de resumo em curso
ME News Notícias, 18 de abril (UTC+8), a NVIDIA lançou recentemente um tutorial técnico que orienta os desenvolvedores sobre como construir um assistente de IA autônomo seguro, de funcionamento prolongado e totalmente local. Este tutorial é baseado na pilha de referência de código aberto da NVIDIA, NemoClaw, que integra o tempo de execução seguro OpenShell e a gateway auto-hospedada OpenClaw, com o objetivo de resolver os riscos de privacidade de dados e controle ao implantar agentes de IA em nuvens de terceiros. O tutorial demonstra detalhadamente as etapas de implantação em um sistema NVIDIA DGX Spark (GB10), incluindo configuração do ambiente, modelo de serviço local, instalação da pilha e conexão ao Telegram. A implantação requer atender a condições específicas de hardware (DGX Spark rodando Ubuntu 24.04 LTS), software (Docker 28.x+ e Ollama) e a criação de um token de bot do Telegram, entre outros pré-requisitos. O tempo ativo estimado é de 20-30 minutos, além de 15-30 minutos para o download inicial do modelo (aproximadamente 87 GB). Os componentes principais incluem NemoClaw, OpenShell, OpenClaw, Nemotron 3 Super 120B LLM e implantação de inferência NIM ou Ollama. O artigo também aponta que, embora o OpenShell ofereça recursos de isolamento robustos, nenhuma sandbox pode fornecer proteção completa contra injeções avançadas de prompts, recomendando que, ao testar novas ferramentas, elas sejam implantadas em sistemas isolados. (Fonte: InFoQ)
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • 6
  • 1
  • Partilhar
Comentar
Adicionar um comentário
Adicionar um comentário
TreatEarningsAsSnacks
· 6h atrás
OpenShell+OpenClaw esta combinação tem um nome um pouco adolescente, mas o stack tecnológico parece sólido
Ver originalResponder0
ChaintraceAuntie
· 9h atrás
Nemotron 3 Super 120B executado localmente, finalmente não preciso mais me preocupar com o limite de API.
Ver originalResponder0
PixelPnl
· 9h atrás
Plano de implantação a longo prazo + design de isolamento forte, este é adequado para equipes com altas exigências de privacidade
Ver originalResponder0
GateUser-4bd1cc87
· 9h atrás
O passo do token do Bot do Telegram é fácil de cometer erros, lembre-se de não fazer upload do arquivo .env no GitHub
Ver originalResponder0
LeverageWithdrawalInProgress
· 9h atrás
Aviso de injeção de dicas bem elaborado, sem sandbox é perfeito, consciência de segurança adequada
Ver originalResponder0
ForkInTheRoadmap
· 9h atrás
NVIDIA DGX Spark a correr 120B, esta configuração tem um nível de entrada um pouco elevado, os jogadores comuns só podem assistir.
Ver originalResponder0
  • Fixado