NVIDIA випустила посібник з побудови локального ізольованого AI-помічника на основі NemoClaw

robot
Генерація анотацій у процесі
ME News Новини, 18 квітня (UTC+8), NVIDIA нещодавно опублікувала технічний посібник, який навчає розробників, як створити безпечного, довгостроково працюючого та повністю локального автономного AI-асистента. Цей посібник базується на відкритому стеку NVIDIA NemoClaw, який інтегрує безпечний час виконання OpenShell та самостійний шлюз OpenClaw, з метою вирішення проблем конфіденційності даних та контролю при розгортанні AI-агентів у сторонніх хмарах. Посібник детально демонструє кроки розгортання на системі NVIDIA DGX Spark (GB10), включаючи налаштування середовища, локальну модель сервісу, встановлення стеку та підключення до Telegram. Розгортання вимагає виконання певних апаратних (DGX Spark з Ubuntu 24.04 LTS), програмних (Docker 28.x+, Ollama) та створення токена Telegram-бота передумов. Очікуваний час активної роботи становить 20-30 хвилин, додатково 15-30 хвилин — початкове завантаження моделі (приблизно 87 ГБ). Основні компоненти включають NemoClaw, OpenShell, OpenClaw, Nemotron 3 Super 120B LLM та розгортання для NIM або Ollama для inference. У статті також зазначено, що хоча OpenShell забезпечує потужну ізоляцію, жоден пісочниця не може надати повного захисту від складних інжекцій підказок, тому рекомендується розгортати нові інструменти у ізольованих системах під час тестування. (Джерело: InFoQ)
NVDA-2,03%
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • 7
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
0XsundayCook
· 4год тому
Токен бота Telegram — цей дизайн хороший, можна в будь-який час і в будь-якому місці налаштовувати свій AI
Переглянути оригіналвідповісти на0
TheFeelingOfEthInTheSeaBreeze
· 4год тому
Тестування ізоляційної системи — дуже важлива порада, не експериментуйте на основному пристрої.
Переглянути оригіналвідповісти на0
LiquidityTeaMaster
· 4год тому
NemoClaw ця назва досить цікава, поєднання OpenShell + OpenClaw звучить дуже круто
Переглянути оригіналвідповісти на0
Yield慢炖锅
· 5год тому
Відкритий стек + детальний посібник — це скарб для користувачів, які прагнуть відмовитися від хмарних сервісів
Переглянути оригіналвідповісти на0
NFTeaTime
· 5год тому
Nemotron 3 Super 120B локально працює, приватність тут дійсно набагато сильніша ніж у хмарі
Переглянути оригіналвідповісти на0
BluePeonyDarkroom
· 5год тому
20-30 хвилин — це швидко для розгортання, але час на завантаження моделі враховується окремо, потрібно заздалегідь планувати.
Переглянути оригіналвідповісти на0
ForkliftTrader
· 5год тому
Ubuntu 24.04 + Docker 28.x,середовище досить нове, старі машини можливо потрібно спочатку оновити
Переглянути оригіналвідповісти на0
  • Закріплено