NVIDIA merilis tutorial membangun asisten AI lokal berbasis NemoClaw yang terisolasi

Berita ME News, 18 April (UTC+8), NVIDIA baru-baru ini merilis panduan teknis yang memandu pengembang tentang cara membangun asisten AI otonom yang aman, berjalan jangka panjang, dan sepenuhnya lokal. Panduan ini didasarkan pada tumpukan referensi sumber terbuka NVIDIA, NemoClaw, yang mengintegrasikan runtime aman OpenShell dan gateway self-hosted OpenClaw, bertujuan mengatasi risiko privasi data dan kontrol saat meng-deploy agen AI di cloud pihak ketiga. Panduan ini secara rinci menunjukkan langkah-langkah deploy di sistem NVIDIA DGX Spark (GB10), termasuk konfigurasi lingkungan, model layanan lokal, instalasi tumpukan, dan koneksi ke Telegram. Deploy memerlukan kondisi perangkat keras tertentu (DGX Spark menjalankan Ubuntu 24.04 LTS), perangkat lunak (Docker 28.x+, Ollama), serta pembuatan token bot Telegram sebagai prasyarat. Waktu operasional aktif diperkirakan 20-30 menit, ditambah 15-30 menit pengunduhan model awal (sekitar 87 GB). Komponen inti meliputi NemoClaw, OpenShell, OpenClaw, Nemotron 3 Super 120B LLM, serta deployment inferensi NIM atau Ollama. Artikel juga menunjukkan bahwa meskipun OpenShell menyediakan isolasi yang kuat, tidak ada sandbox yang dapat memberikan perlindungan penuh terhadap injeksi prompt tingkat tinggi, dan disarankan untuk meng-deploy alat baru dalam sistem isolasi saat pengujian. (Sumber: InFoQ)