NVIDIA lança tutorial para construir um assistente de IA sandbox local baseado no NemoClaw

robot
Geração do resumo em andamento
ME News Notícias, 18 de abril (UTC+8), a NVIDIA recentemente publicou um tutorial técnico que orienta os desenvolvedores sobre como construir um assistente de IA autônomo, seguro, de operação prolongada e totalmente local.
O tutorial é baseado na pilha de referência de código aberto da NVIDIA, NemoClaw, que integra o tempo de execução seguro OpenShell e a gateway autogerenciada OpenClaw, com o objetivo de resolver os riscos de privacidade de dados e controle ao implantar agentes de IA em nuvens de terceiros.
O tutorial demonstra detalhadamente as etapas de implantação em um sistema NVIDIA DGX Spark (GB10), incluindo configuração do ambiente, modelo de serviço local, instalação da pilha e conexão ao Telegram.
A implantação requer atender a pré-requisitos específicos de hardware (DGX Spark rodando Ubuntu 24.04 LTS), software (Docker 28.x+, Ollama) e a criação de um token de bot do Telegram.
O tempo ativo estimado é de 20-30 minutos, além de 15-30 minutos para o download inicial do modelo (aproximadamente 87 GB).
Os componentes principais incluem NemoClaw, OpenShell, OpenClaw, Nemotron 3 Super 120B LLM e implantação de inferência NIM ou Ollama.
O texto também aponta que, embora o OpenShell ofereça recursos de isolamento robustos, nenhuma sandbox pode fornecer proteção completa contra injeções avançadas de prompts, recomendando que, ao testar novas ferramentas, elas sejam implantadas em sistemas isolados. (Fonte: InFoQ)
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
  • Recompensa
  • 12
  • 2
  • Compartilhar
Comentário
Adicionar um comentário
Adicionar um comentário
DegenLibrarian
· 05-28 07:56
NVIDIA DGX Spark essa configuração, a conta de energia em casa vai explodir
Ver originalResponder0
NeonUmbrella
· 05-27 17:23
A etapa de token do bot do Telegram é fácil de cometer erros, lembre-se de guardá-lo bem
Ver originalResponder0
TidepoolQuant
· 05-26 13:54
A implantação local finalmente não precisa mais depender da vontade do provedor de serviços em nuvem
Ver originalResponder0
TableNextToJupiter
· 05-26 03:42
OpenShell+OpenClaw essa combinação soa como um jogo de luta
Ver originalResponder0
HashbrownHero
· 05-26 02:40
O aviso de injeção de prompt é bastante realista, afinal, é comum ver AI sendo burlada todos os dias
Ver originalResponder0
Half-SectionedSucculent
· 05-25 10:04
O teste do sistema de isolamento é uma lição dolorosa, quase derrubando o ambiente principal ao brincar com LLMs.
Ver originalResponder0
FomoLibrarian
· 05-25 10:00
Consegue rodar em 20 minutos? Mais rápido do que eu montar um nó
Ver originalResponder0
ReefUnderTheMoonlight
· 05-25 09:45
Opções de inferência dupla NIM/Ollama, máxima flexibilidade
Ver originalResponder0
DaoPeripheralWorker
· 05-25 09:43
A maior vantagem da pilha de código aberto é a capacidade de modificar livremente, aguardando um fork da comunidade
Ver originalResponder0
FloatingMirrorSphere
· 05-25 09:43
Ubuntu 24.04+LTS, controle de versão em êxtase
Ver originalResponder0
Ver projetos
  • Fixado