NVIDIA merilis tutorial membangun asisten AI sandbox lokal berbasis NemoClaw

robot
Pembuatan abstrak sedang berlangsung
Berita ME News, 18 April (UTC+8), NVIDIA baru-baru ini merilis panduan teknis yang memandu pengembang tentang cara membangun asisten AI otonom yang aman, berjalan jangka panjang, dan sepenuhnya lokal. Panduan ini didasarkan pada tumpukan referensi sumber terbuka NVIDIA, NemoClaw, yang mengintegrasikan runtime aman OpenShell dan gateway self-hosted OpenClaw, bertujuan mengatasi risiko privasi data dan kontrol saat menyebarkan agen AI di cloud pihak ketiga. Panduan ini secara rinci menunjukkan langkah-langkah penyebaran di sistem NVIDIA DGX Spark (GB10), termasuk konfigurasi lingkungan, model layanan lokal, instalasi tumpukan, dan koneksi ke Telegram. Penyebaran memerlukan kondisi perangkat keras tertentu (DGX Spark menjalankan Ubuntu 24.04 LTS), perangkat lunak (Docker 28.x+ , Ollama), serta pembuatan token bot Telegram sebagai prasyarat. Waktu operasional aktif diperkirakan 20-30 menit, ditambah 15-30 menit pengunduhan model awal (sekitar 87 GB). Komponen inti meliputi NemoClaw, OpenShell, OpenClaw, Nemotron 3 Super 120B LLM, serta penyebaran inferensi NIM atau Ollama. Artikel ini juga menunjukkan bahwa meskipun OpenShell menyediakan isolasi yang kuat, tidak ada sandbox yang dapat memberikan perlindungan penuh terhadap injeksi prompt tingkat tinggi, dan disarankan untuk menyebarkan alat baru dalam sistem isolasi saat pengujian. (Sumber: InFoQ)
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • 7
  • 1
  • Bagikan
Komentar
Tambahkan komentar
Tambahkan komentar
GateUser-26f91b48
· 6jam yang lalu
Keamanan jangka panjang sebagai poin penjualan ini benar-benar menarik perhatian saya, saya selalu khawatir data bocor dengan API cloud
Lihat AsliBalas0
FomoLibrarian
· 9jam yang lalu
OpenShell + OpenClaw kombinasi ini terdengar seperti gudang senjata cyberpunk
Lihat AsliBalas0
0xLateDiner
· 9jam yang lalu
Ubuntu 24.04 + Docker 28.x lingkungan persyaratan ditulis sedetail ini, ramah untuk pemula
Lihat AsliBalas0
PixelUniverseCat
· 9jam yang lalu
Pengujian sistem isolasi adalah garis dasar, sebelumnya saya telah melihat terlalu banyak kasus kegagalan AI lokal
Lihat AsliBalas0
GasFeeAnxiety
· 9jam yang lalu
Nemotron 3 Super 120B dijalankan secara lokal, ini bisa dibilang model terbesar yang bisa dijangkau untuk penggunaan konsumen, kan?
Lihat AsliBalas0
MempoolDaydream
· 9jam yang lalu
Penolakan untuk mengunduh model 87GB, tetapi menjalankan 120B secara lokal memang menyenangkan
Lihat AsliBalas0
SushiSlippage
· 9jam yang lalu
Tanpa sandbox, dapat sepenuhnya melindungi dari injeksi prompt tingkat tinggi. Pengingat ini sangat nyata, pemain lama di dunia keamanan pasti mengerti
Lihat AsliBalas0
  • Disematkan