NVIDIA выпустила руководство по созданию локального изолированного AI-ассистента на базе NemoClaw

robot
Генерация тезисов в процессе
ME News Новости, 18 апреля (UTC+8), NVIDIA недавно выпустила техническое руководство, в котором объясняется, как разработчикам создать безопасного, долговечно работающего и полностью локального автономного AI-ассистента. Это руководство основано на открытом исходном коде стека NVIDIA NemoClaw, который включает безопасный среда выполнения OpenShell и самоуправляемый шлюз OpenClaw, предназначенные для решения проблем конфиденциальности данных и контроля при развертывании AI-агентов в сторонних облаках. Руководство подробно демонстрирует шаги развертывания на системе NVIDIA DGX Spark (GB10), включая настройку окружения, локальную модель сервиса, установку стека и подключение к Telegram. Развертывание требует выполнения определённых условий по аппаратному обеспечению (DGX Spark с Ubuntu 24.04 LTS), программному обеспечению (Docker 28.x+ и Ollama), а также созданию токена бота Telegram. Предполагаемое время активных действий — 20-30 минут, плюс 15-30 минут на первоначальную загрузку модели (около 87 ГБ). Основные компоненты включают NemoClaw, OpenShell, OpenClaw, Nemotron 3 Super 120B LLM и развертывание inference с помощью NIM или Ollama. В статье также отмечается, что несмотря на мощные изоляционные возможности OpenShell, ни один песочница не обеспечивает полной защиты от продвинутых методов внедрения подсказок, и рекомендуется запускать новые инструменты в изолированных системах во время тестирования. (Источник: InFoQ)
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • 11
  • 3
  • Поделиться
комментарий
Добавить комментарий
Добавить комментарий
QuietAirdropper
· 8ч назад
OpenShell+OpenClaw эта комбинация звучит довольно круто
Посмотреть ОригиналОтветить0
GateUser-94818fd0
· 8ч назад
87GB загрузка отговаривает, есть ли легкая версия решения?
Посмотреть ОригиналОтветить0
Salt-BakedBabyPotatoes
· 8ч назад
NemoClaw открытое программное обеспечение с хорошими отзывами, пойду изучу код
Посмотреть ОригиналОтветить0
TheSkyInsideTheMirroredSphere
· 8ч назад
Есть ли реальные данные о стабильности долгосрочного развертывания?
Посмотреть ОригиналОтветить0
AuroraSnowyWildernessSolitary
· 8ч назад
Можете подробнее рассказать о части с токеном бота Telegram?
Посмотреть ОригиналОтветить0
ProofOfSnack
· 8ч назад
Без песочницы полностью защититься от продвинутых инъекций подсказок — эта фраза стоит того, чтобы её выделить.
Посмотреть ОригиналОтветить0
GateUser-953e1a14
· 8ч назад
Предупреждение о внедрении подсказок очень важно, безопасность превыше всего
Посмотреть ОригиналОтветить0
Don'tCallMeABagHolder.
· 8ч назад
Ubuntu 24.04 только что вышла, следую за трендами
Посмотреть ОригиналОтветить0
SeaSaltMarketMakingNotes
· 8ч назад
Docker 28.x требует довольно новых версий, старую среду нужно обновлять.
Посмотреть ОригиналОтветить0
ProofOfNap
· 8ч назад
Изоляционная система тестирования — это профессиональное напоминание
Посмотреть ОригиналОтветить0
Подробнее
  • Закреплено