A NVIDIA lança tutorial para construir um assistente de IA local e sandbox baseado em NemoClaw

robot
Geração de resumo em curso
Notícias ME, 18 de abril (UTC+8), a NVIDIA publicou recentemente um tutorial técnico que orienta os desenvolvedores sobre como construir um assistente de IA autônomo seguro, de funcionamento prolongado e totalmente local. Este tutorial é baseado na pilha de referência de código aberto da NVIDIA, NemoClaw, que integra o tempo de execução de segurança OpenShell e a gateway auto-hospedada OpenClaw, com o objetivo de resolver os riscos de privacidade de dados e controle ao implantar agentes de IA em nuvens de terceiros. O tutorial demonstra detalhadamente as etapas de implantação em um sistema NVIDIA DGX Spark (GB10), incluindo configuração do ambiente, modelo de serviço local, instalação da pilha e conexão ao Telegram. A implantação requer atender a condições específicas de hardware (DGX Spark rodando Ubuntu 24.04 LTS), software (Docker 28.x+ , Ollama) e a criação de um token de bot do Telegram, entre outros pré-requisitos. O tempo ativo estimado é de 20-30 minutos, além de 15-30 minutos para o download inicial do modelo (aproximadamente 87 GB). Os componentes principais incluem NemoClaw, OpenShell, OpenClaw, Nemotron 3 Super 120B LLM e implantação de inferência NIM ou Ollama. O artigo também aponta que, embora o OpenShell ofereça recursos de isolamento robustos, nenhuma sandbox pode fornecer proteção completa contra injeções avançadas de prompts, recomendando que, ao testar novas ferramentas, elas sejam implantadas em sistemas isolados. (Fonte: InFoQ)
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • 7
  • 1
  • Partilhar
Comentar
Adicionar um comentário
Adicionar um comentário
GateUser-26f91b48
· 11h atrás
A vantagem de segurança a longo prazo realmente me conquistou, sempre me preocupo com vazamento de dados na API em nuvem
Ver originalResponder0
FomoLibrarian
· 14h atrás
OpenShell + OpenClaw Esta combinação soa como um arsenal de armas cyberpunk
Ver originalResponder0
0xLateDiner
· 14h atrás
Ubuntu 24.04 + Docker 28.x requisitos do ambiente detalhados para facilitar para iniciantes
Ver originalResponder0
PixelUniverseCat
· 14h atrás
O teste do sistema de isolamento é a linha de base, já vi muitos casos de falha de IA local antes.
Ver originalResponder0
GasFeeAnxiety
· 14h atrás
Nemotron 3 Super 120B executado localmente, isto é considerado o maior modelo de nível consumidor que se pode encontrar, certo?
Ver originalResponder0
MempoolDaydream
· 14h atrás
A descarga do modelo de 87GB desencoraja, mas rodar localmente o de 120B é realmente atraente
Ver originalResponder0
SushiSlippage
· 14h atrás
Sem sandbox, é possível resistir completamente à injeção de prompts avançados. Este aviso é bastante útil, os veteranos do setor de segurança entendem.
Ver originalResponder0
  • Fixado