NVIDIA merilis tutorial membangun asisten AI sandbox lokal berbasis NemoClaw

robot
Pembuatan abstrak sedang berlangsung
Berita ME News, 18 April (UTC+8), NVIDIA baru-baru ini merilis panduan teknis yang memandu pengembang tentang cara membangun asisten AI otonom yang aman, berjalan jangka panjang, dan sepenuhnya lokal. Panduan ini didasarkan pada tumpukan referensi sumber terbuka NVIDIA, NemoClaw, yang mengintegrasikan runtime aman OpenShell dan gateway self-hosted OpenClaw, bertujuan mengatasi risiko privasi data dan kontrol saat menyebarkan agen AI di cloud pihak ketiga. Panduan ini secara rinci menunjukkan langkah-langkah penyebaran di sistem NVIDIA DGX Spark (GB10), termasuk konfigurasi lingkungan, model layanan lokal, instalasi tumpukan, dan koneksi ke Telegram. Penyebaran memerlukan kondisi awal tertentu seperti perangkat keras (DGX Spark menjalankan Ubuntu 24.04 LTS), perangkat lunak (Docker 28.x+ , Ollama), serta pembuatan token bot Telegram. Waktu operasional aktif diperkirakan 20-30 menit, ditambah 15-30 menit untuk pengunduhan model awal (sekitar 87 GB). Komponen inti meliputi NemoClaw, OpenShell, OpenClaw, Nemotron 3 Super 120B LLM, serta penerapan inferensi NIM atau Ollama. Artikel ini juga menunjukkan bahwa meskipun OpenShell menyediakan isolasi yang kuat, tidak ada sandbox yang dapat memberikan perlindungan penuh terhadap injeksi prompt tingkat tinggi, dan disarankan untuk menguji alat baru di sistem isolasi. (Sumber: InFoQ)
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • 7
  • 2
  • Bagikan
Komentar
Tambahkan komentar
Tambahkan komentar
Half-SectionedSucculent
· 8jam yang lalu
Pengujian sistem isolasi adalah pelajaran pahit, sebelumnya bermain LLM hampir merusak lingkungan utama
Lihat AsliBalas0
FomoLibrarian
· 9jam yang lalu
Dapat berjalan dalam 20 menit? Lebih cepat dari saya membangun node
Lihat AsliBalas0
ReefUnderTheMoonlight
· 9jam yang lalu
Opsi inferensi ganda NIM/Ollama, fleksibilitas maksimal
Lihat AsliBalas0
DaoPeripheralWorker
· 9jam yang lalu
Keuntungan terbesar dari tumpukan sumber terbuka adalah dapat dimodifikasi sendiri, menunggu komunitas melakukan fork
Lihat AsliBalas0
FloatingMirrorSphere
· 9jam yang lalu
Ubuntu 24.04+LTS,Versi kontrol kegirangan
Lihat AsliBalas0
CapitalFlowInATeacup
· 9jam yang lalu
Menjalankan 120B parameter secara lokal, jika setelah kuantisasi, apakah hasilnya masih bisa bersaing?
Lihat AsliBalas0
ViewingNarrativesFromAHotAir
· 9jam yang lalu
Model 87GB membuat tangan pegal, hard disk terbakar
Lihat AsliBalas0
  • Disematkan