Menjalankan model 120B secara lokal, ini adalah AI privat sejati, tutorialnya sangat keren

Lihat Asli
MeNews
NVIDIA merilis tutorial membangun asisten AI sandbox lokal berbasis NemoClaw
Tutorial ini didasarkan pada stack open-source NemoClaw, menggabungkan OpenShell dan OpenClaw, menyediakan solusi untuk men-deploy asisten AI mandiri secara lokal, jangka panjang, dan aman. Mengambil sistem NVIDIA DGX Spark sebagai contoh, persyaratan lingkungan secara rinci (Ubuntu 24.04, Docker 28.x, Ollama, token bot Telegram, dll) dan langkah-langkah deployment, diperkirakan selesai dalam 20–30 menit, dengan tambahan 15–30 menit untuk mengunduh model sekitar 87GB. Komponen inti meliputi NemoClaw, OpenShell, OpenClaw, Nemotron 3 Super 120B, dan deployment inferensi NIM/Ollama. Dalam artikel ini diingatkan bahwa meskipun ada isolasi yang kuat, tidak ada sandbox yang dapat sepenuhnya melindungi dari injeksi prompt tingkat tinggi, pengujian harus dilakukan di sistem yang terisolasi.
Halaman ini mungkin berisi konten pihak ketiga, yang disediakan untuk tujuan informasi saja (bukan pernyataan/jaminan) dan tidak boleh dianggap sebagai dukungan terhadap pandangannya oleh Gate, atau sebagai nasihat keuangan atau profesional. Lihat Penafian untuk detailnya.
  • Hadiah
  • Komentar
  • Posting ulang
  • Bagikan
Komentar
Tambahkan komentar
Tambahkan komentar
Tidak ada komentar
  • Disematkan