NVIDIA выпустила руководство по созданию локального изолированного AI-ассистента на базе NemoClaw

robot
Генерация тезисов в процессе
МЕ Новости, 18 апреля (UTC+8), NVIDIA недавно выпустила техническое руководство, которое показывает разработчикам, как создать безопасного, долгосрочного и полностью локального автономного AI-ассистента. Это руководство основано на открытом исходном стеке NVIDIA NemoClaw, который интегрирует безопасный рантайм OpenShell и самоуправляемый шлюз OpenClaw, предназначенные для решения проблем конфиденциальности данных и контроля при развертывании AI-агентов на сторонних облаках. Руководство подробно демонстрирует шаги развертывания на системе NVIDIA DGX Spark (GB10), включая настройку окружения, локальную модель сервиса, установку стека и подключение к Telegram. Развертывание требует выполнения определённых условий по аппаратному обеспечению (DGX Spark с Ubuntu 24.04 LTS), программному обеспечению (Docker 28.x+, Ollama) и созданию токена бота Telegram. Предполагаемое время активных действий — 20-30 минут, плюс 15-30 минут на первоначальную загрузку модели (около 87 ГБ). Основные компоненты включают NemoClaw, OpenShell, OpenClaw, Nemotron 3 Super 120B LLM и развертывание для inference с помощью NIM или Ollama. В статье также отмечается, что несмотря на мощные изоляционные возможности OpenShell, ни один песочница не обеспечивает полной защиты от продвинутых методов внедрения подсказок, и рекомендуется запускать новые инструменты в изолированных системах во время тестирования. (Источник: InFoQ)
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • 5
  • 2
  • Поделиться
комментарий
Добавить комментарий
Добавить комментарий
GateUser-26f91b48
· 2ч назад
Комбинация токена Telegram-бота довольно интересна, удалённое взаимодействие + локальная вычислительная мощность
Посмотреть ОригиналОтветить0
PerpNightRunner
· 2ч назад
Тестирование изоляционной системы — очень важный совет, ведь никто не хочет, чтобы его основная среда была подвержена уязвимостям и вышла из строя из-за инъекций.
Посмотреть ОригиналОтветить0
GasFeesForNightRuns
· 2ч назад
Nemotron 3 Super 120B локальный запуск, счет за электроэнергию может быть более шокирующим, чем облачный API
Посмотреть ОригиналОтветить0
WhaleInAGlassBottle
· 2ч назад
Ubuntu 24.04 + Docker 28.x,требования к версиям довольно новые, старым машинам пока не спешите пробовать
Посмотреть ОригиналОтветить0
ResilientGoldfish
· 2ч назад
87GB модель, жесткий диск дрожит
Посмотреть ОригиналОтветить0
  • Закреплено