NVIDIA выпустила руководство по созданию локального изолированного AI-ассистента на базе NemoClaw

ME News Новости, 18 апреля (UTC+8), NVIDIA недавно выпустила техническое руководство, которое показывает разработчикам, как создать безопасного, долгосрочного и полностью локального автономного AI-ассистента. Это руководство основано на открытом исходном стеке NVIDIA NemoClaw, который включает безопасный рантайм OpenShell и самоуправляемый шлюз OpenClaw, предназначенные для решения проблем конфиденциальности данных и контроля при развертывании AI-агентов на сторонних облаках. Руководство подробно демонстрирует шаги развертывания на системе NVIDIA DGX Spark (GB10), включая настройку окружения, локальную модель сервиса, установку стека и подключение к Telegram. Развертывание требует выполнения определённых условий по аппаратному обеспечению (DGX Spark с Ubuntu 24.04 LTS), программному обеспечению (Docker 28.x+ и Ollama), а также созданию токена бота Telegram. Предполагаемое время активных действий — 20-30 минут, плюс 15-30 минут на первоначальную загрузку модели (около 87 ГБ). Основные компоненты включают NemoClaw, OpenShell, OpenClaw, Nemotron 3 Super 120B LLM и развертывание для inference с помощью NIM или Ollama. В статье также отмечается, что хотя OpenShell обеспечивает мощную изоляцию, ни один песочница не может полностью защитить от продвинутых методов внедрения подсказок, поэтому рекомендуется запускать новые инструменты в изолированных системах во время тестирования. (Источник: InFoQ)