NVIDIA випустила посібник з створення локального ізольованого AI-помічника на основі NemoClaw

robot
Генерація анотацій у процесі

ME News Новини, 18 квітня (UTC+8), NVIDIA нещодавно опублікувала технічний посібник, який навчає розробників, як створити безпечного, довгостроково працюючого та повністю локального автономного AI-асистента. Цей посібник базується на відкритому вихідному коді NVIDIA — NemoClaw, який інтегрує безпечний час виконання OpenShell та самостійний шлюз OpenClaw, з метою вирішення проблем конфіденційності даних та контролю при розгортанні AI-агентів у сторонніх хмарах. Посібник детально демонструє кроки розгортання на системі NVIDIA DGX Spark (GB10), включаючи налаштування середовища, локальну модель сервісу, встановлення стеку та підключення до Telegram. Розгортання вимагає виконання певних апаратних (DGX Spark з Ubuntu 24.04 LTS), програмних (Docker 28.x+, Ollama) та створення токена Telegram-бота передумов. Очікуваний час активної роботи становить 20-30 хвилин, додатково 15-30 хвилин — початкове завантаження моделі (приблизно 87 ГБ). Основні компоненти включають NemoClaw, OpenShell, OpenClaw, Nemotron 3 Super 120B LLM та розгортання для NIM або Ollama для inference. У статті також зазначено, що хоча OpenShell забезпечує потужну ізоляцію, жоден пісочниця не може надати повного захисту від складних інжекцій підказок, тому рекомендується розгортати нові інструменти у ізольованих системах під час тестування. (Джерело: InFoQ)

Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріпити