NVIDIA merilis tutorial membangun asisten AI sandbox lokal berbasis NemoClaw

robot
Pembuatan abstrak sedang berlangsung
Berita ME News, 18 April (UTC+8), NVIDIA baru-baru ini merilis panduan teknis yang memandu pengembang tentang cara membangun asisten AI otonom yang aman, berjalan jangka panjang, dan sepenuhnya lokal. Panduan ini didasarkan pada tumpukan referensi sumber terbuka NVIDIA, NemoClaw, yang mengintegrasikan runtime aman OpenShell dan gateway self-hosted OpenClaw, bertujuan mengatasi risiko privasi data dan kontrol saat meng-deploy agen AI di cloud pihak ketiga. Panduan ini secara rinci menunjukkan langkah-langkah deploy di sistem NVIDIA DGX Spark (GB10), termasuk konfigurasi lingkungan, model layanan lokal, instalasi tumpukan, dan koneksi ke Telegram. Deploy memerlukan kondisi perangkat keras tertentu (DGX Spark menjalankan Ubuntu 24.04 LTS), perangkat lunak (Docker 28.x+, Ollama), serta pembuatan token bot Telegram sebagai prasyarat. Perkiraan waktu operasional aktif adalah 20-30 menit, ditambah 15-30 menit pengunduhan model awal (sekitar 87 GB). Komponen inti meliputi NemoClaw, OpenShell, OpenClaw, Nemotron 3 Super 120B LLM, serta deployment inferensi NIM atau Ollama. Artikel ini juga menunjukkan bahwa meskipun OpenShell menyediakan isolasi yang kuat, tidak ada sandbox yang dapat memberikan perlindungan penuh terhadap injeksi prompt tingkat tinggi, dan disarankan untuk meng-deploy alat baru dalam sistem isolasi saat pengujian. (Sumber: InFoQ)
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • 6
  • 2
  • Bagikan
Komentar
Tambahkan komentar
Tambahkan komentar
OutsiderOfZhiyuandao
· Baru saja
20-30分钟部署,15-30分钟下载,这预估时间对国内网络是不是过于乐观
Balas0
GateUser-26f91b48
· 4jam yang lalu
Token bot Telegram ini kombinasi yang cukup menarik, interaksi jarak jauh + kekuatan komputasi lokal
Lihat AsliBalas0
PerpNightRunner
· 4jam yang lalu
Pengujian sistem isolasi saran ini sangat penting, bagaimanapun juga tidak ada yang ingin lingkungan utama mereka diberi peringatan injeksi yang menyebabkan kerusakan
Lihat AsliBalas0
GasFeesForNightRuns
· 5jam yang lalu
Nemotron 3 Super 120B berjalan secara lokal, tagihan listrik mungkin lebih menggiurkan daripada API cloud
Lihat AsliBalas0
WhaleInAGlassBottle
· 5jam yang lalu
Ubuntu 24.04 + Docker 28.x,versi yang dibutuhkan cukup baru, mesin lama jangan buru-buru coba dulu
Lihat AsliBalas0
ResilientGoldfish
· 5jam yang lalu
Model 87GB, hard drive sedang bergetar
Lihat AsliBalas0
  • Disematkan