NVIDIA выпустила руководство по созданию локального изолированного AI-ассистента на базе NemoClaw

robot
Генерация тезисов в процессе
ME News Новости, 18 апреля (UTC+8), NVIDIA недавно выпустила техническое руководство, в котором объясняется, как разработчикам создать безопасного, долгосрочного и полностью локального автономного AI-ассистента. Это руководство основано на открытом исходном коде стека NVIDIA NemoClaw, который включает безопасный среда выполнения OpenShell и автономный шлюз OpenClaw, предназначенные для решения проблем конфиденциальности данных и контроля при развертывании AI-агентов на сторонних облаках. Руководство подробно демонстрирует этапы развертывания на системе NVIDIA DGX Spark (GB10), включая настройку окружения, локальную модель сервиса, установку стека и подключение к Telegram. Для развертывания необходимы определённые аппаратные требования (DGX Spark с Ubuntu 24.04 LTS), программное обеспечение (Docker 28.x+ и Ollama), а также создание токена бота Telegram. Предполагаемое время активных действий составляет 20-30 минут, плюс 15-30 минут на первоначальную загрузку модели (около 87 ГБ). Основные компоненты включают NemoClaw, OpenShell, OpenClaw, Nemotron 3 Super 120B LLM и развертывание для NIM или Ollama для инференса. В статье также отмечается, что несмотря на мощные изоляционные возможности OpenShell, ни один песочница не обеспечивает полной защиты от продвинутых методов внедрения подсказок, и рекомендуется запускать новые инструменты в изолированных системах при тестировании. (Источник: InFoQ)
NVDA-2,03%
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • 7
  • Репост
  • Поделиться
комментарий
Добавить комментарий
Добавить комментарий
0XsundayCook
· 7ч назад
Дизайн токена для Telegram-бота хороший, можно в любое время и в любом месте настроить своего ИИ.
Посмотреть ОригиналОтветить0
TheFeelingOfEthInTheSeaBreeze
· 8ч назад
Тестирование изоляционной системы — очень важный совет, не стоит бездумно возиться на основном устройстве.
Посмотреть ОригиналОтветить0
LiquidityTeaMaster
· 8ч назад
NemoClaw это довольно интересное название, сочетание OpenShell + OpenClaw звучит очень круто
Посмотреть ОригиналОтветить0
Yield慢炖锅
· 8ч назад
Открытый стек + подробное руководство — настоящий клад для пользователей, желающих избавиться от облачных сервисов
Посмотреть ОригиналОтветить0
NFTeaTime
· 8ч назад
Nemotron 3 Super 120B локально работает, конфиденциальность действительно намного лучше, чем в облаке
Посмотреть ОригиналОтветить0
BluePeonyDarkroom
· 8ч назад
Развертывание за 20-30 минут — это довольно быстро, но время на скачивание модели считается отдельно, нужно заранее планировать.
Посмотреть ОригиналОтветить0
ForkliftTrader
· 8ч назад
Ubuntu 24.04 + Docker 28.x,требования к окружению довольно новые, старым машинам, возможно, придется сначала обновиться
Посмотреть ОригиналОтветить0
  • Закреплено