Посібник базується на відкритому стеку NemoClaw, що поєднує OpenShell та OpenClaw, і пропонує рішення для довгострокового, безпечного локального розгортання автономного AI-помічника. В якості прикладу використовується система NVIDIA DGX Spark, з детальними вимогами до середовища (Ubuntu 24.04, Docker 28.x, Ollama, токен Telegram-бота тощо) та кроками розгортання, які займають приблизно 20–30 хвилин, додатково потрібно 15–30 хвилин для завантаження моделей обсягом близько 87 ГБ. Основні компоненти включають NemoClaw, OpenShell, OpenClaw, Nemotron 3 Super 120B та розгортання NIM/Ollama для inference. У статті наголошується, що хоча використовується сильна ізоляція, жоден пісочниця не може повністю захистити від складних інжекцій підказок, тому тестування слід проводити в ізольованій системі.

MeNews

2026-05-25 09:06:03

Генерація анотацій у процесі

ME News Новини, 18 квітня (UTC+8), NVIDIA нещодавно опублікувала технічний посібник, який навчає розробників, як створити безпечного, довгострокового та повністю локального автономного AI-асистента. Цей посібник базується на відкритому стеку NVIDIA NemoClaw, який інтегрує безпечний час виконання OpenShell та самостійний шлюз OpenClaw, з метою вирішення проблем конфіденційності даних та контролю при розгортанні AI-агентів у сторонніх хмарах. Посібник детально демонструє кроки розгортання на системі NVIDIA DGX Spark (GB10), включаючи налаштування середовища, локальну модель сервісу, встановлення стеку та підключення до Telegram. Розгортання вимагає виконання певних апаратних (DGX Spark з Ubuntu 24.04 LTS), програмних (Docker 28.x+, Ollama) та створення токена Telegram-бота передумов. Очікуваний час активної роботи становить 20-30 хвилин, додатково 15-30 хвилин — початкове завантаження моделі (приблизно 87 ГБ). Основні компоненти включають NemoClaw, OpenShell, OpenClaw, Nemotron 3 Super 120B LLM та розгортання для NIM або Ollama для inference. У статті також зазначено, що хоча OpenShell забезпечує потужну ізоляцію, жоден пісочниця не може надати повного захисту від складних інжекцій підказок, тому рекомендується розгортати нові інструменти у ізольованих системах під час тестування. (Джерело: InFoQ)

Переглянути оригінал

Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.

14 лайків

Нагородити
14
12
3
Поділіться

Прокоментувати

Додати коментар

AutumnTranquility

· 2год тому

Локальне розгортання 87 ГБ моделі, відеокарта горить.