NVIDIA merilis tutorial membangun asisten AI sandbox lokal berbasis NemoClaw

robot
Pembuatan abstrak sedang berlangsung
Berita ME News, 18 April (UTC+8), NVIDIA baru-baru ini merilis panduan teknis yang memandu pengembang tentang cara membangun asisten AI otonom yang aman, berjalan jangka panjang, dan sepenuhnya lokal. Panduan ini didasarkan pada tumpukan referensi sumber terbuka NVIDIA, NemoClaw, yang mengintegrasikan runtime aman OpenShell dan gateway self-hosted OpenClaw, bertujuan mengatasi risiko privasi data dan kontrol saat menyebarkan agen AI di cloud pihak ketiga. Panduan ini secara rinci menunjukkan langkah-langkah penyebaran di sistem NVIDIA DGX Spark (GB10), termasuk konfigurasi lingkungan, model layanan lokal, instalasi tumpukan, dan koneksi ke Telegram. Penyebaran memerlukan kondisi perangkat keras tertentu (DGX Spark menjalankan Ubuntu 24.04 LTS), perangkat lunak (Docker 28.x+ , Ollama), serta pembuatan token bot Telegram sebagai prasyarat. Perkiraan waktu operasional aktif adalah 20-30 menit, ditambah 15-30 menit pengunduhan model awal (sekitar 87 GB). Komponen inti meliputi NemoClaw, OpenShell, OpenClaw, Nemotron 3 Super 120B LLM, dan penyebaran inferensi NIM atau Ollama. Artikel ini juga menunjukkan bahwa meskipun OpenShell menyediakan isolasi yang kuat, tidak ada sandbox yang dapat memberikan perlindungan penuh terhadap injeksi prompt tingkat tinggi, disarankan untuk menguji alat baru dengan menyebarkannya di sistem isolasi. (Sumber: InFoQ)
NVDA-2,03%
Lihat Asli
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • 7
  • Posting ulang
  • Bagikan
Komentar
Tambahkan komentar
Tambahkan komentar
0XsundayCook
· 10jam yang lalu
Token bot Telegram ini dirancang dengan baik, memungkinkan Anda mengatur AI Anda kapan saja dan di mana saja
Lihat AsliBalas0
TheFeelingOfEthInTheSeaBreeze
· 10jam yang lalu
Pengujian sistem isolasi saran ini sangat penting, jangan main-main di mesin utama
Lihat AsliBalas0
LiquidityTeaMaster
· 10jam yang lalu
NemoClaw penamaan ini cukup menarik, kombinasi OpenShell + OpenClaw terdengar sangat keren
Lihat AsliBalas0
Yield慢炖锅
· 10jam yang lalu
Tumpukan sumber terbuka + tutorial lengkap, adalah harta karun bagi pengguna yang ingin keluar dari layanan cloud
Lihat AsliBalas0
NFTeaTime
· 10jam yang lalu
Nemotron 3 Super 120B berjalan secara lokal, masalah privasi memang jauh lebih kuat daripada di cloud
Lihat AsliBalas0
BluePeonyDarkroom
· 10jam yang lalu
Menyiapkan dalam 20-30 menit sudah cukup cepat, tetapi waktu pengunduhan model dihitung terpisah, perlu perencanaan sebelumnya
Lihat AsliBalas0
ForkliftTrader
· 10jam yang lalu
Ubuntu 24.04 + Docker 28.x,lingkungan membutuhkan cukup baru, mesin lama mungkin perlu upgrade terlebih dahulu
Lihat AsliBalas0
  • Disematkan