NVIDIA phát hành hướng dẫn xây dựng trợ lý AI cục bộ dựa trên NemoClaw

robot
Đang tạo bản tóm tắt
Tin ME News, ngày 18 tháng 4 (UTC+8), NVIDIA gần đây đã phát hành một hướng dẫn kỹ thuật, hướng dẫn các nhà phát triển cách xây dựng một trợ lý AI tự chủ an toàn, hoạt động lâu dài và hoàn toàn nội bộ. Hướng dẫn này dựa trên bộ tham chiếu mã nguồn mở của NVIDIA là NemoClaw, bộ này tích hợp OpenShell runtime an toàn và OpenClaw cổng dịch vụ tự quản lý, nhằm giải quyết các rủi ro về quyền riêng tư dữ liệu và kiểm soát khi triển khai AI代理 trên đám mây của bên thứ ba. Hướng dẫn trình bày chi tiết các bước triển khai trên hệ thống NVIDIA DGX Spark (GB10), bao gồm cấu hình môi trường, mô hình dịch vụ nội bộ, cài đặt bộ công cụ và kết nối với Telegram. Việc triển khai yêu cầu đáp ứng các điều kiện tiên quyết về phần cứng (DGX Spark chạy Ubuntu 24.04 LTS), phần mềm (Docker 28.x+, Ollama) và tạo mã thông báo bot Telegram. Thời gian thao tác chủ động dự kiến là 20-30 phút, cộng thêm 15-30 phút để tải mô hình ban đầu (khoảng 87 GB). Các thành phần cốt lõi gồm NemoClaw, OpenShell, OpenClaw, Nemotron 3 Super 120B LLM và triển khai suy luận NIM hoặc Ollama. Trong bài viết cũng chỉ ra rằng, mặc dù OpenShell cung cấp khả năng cô lập mạnh mẽ, nhưng không có sandbox nào có thể cung cấp sự bảo vệ hoàn toàn chống lại các tấn công tiêm kích nâng cao, khuyên nên triển khai các công cụ mới trong hệ thống cô lập khi thử nghiệm. (Nguồn: InFoQ)
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • 7
  • 1
  • Retweed
Bình luận
Thêm một bình luận
Thêm một bình luận
GateUser-26f91b48
· 9giờ trước
Việc triển khai an toàn lâu dài đã chạm đến tôi, tôi luôn lo lắng về rò rỉ dữ liệu khi sử dụng API đám mây
Xem bản gốcTrả lời0
FomoLibrarian
· 11giờ trước
OpenShell + OpenClaw Tên tổ hợp này nghe giống như kho vũ khí cyberpunk
Xem bản gốcTrả lời0
0xLateDiner
· 11giờ trước
Yêu cầu môi trường Ubuntu 24.04 + Docker 28.x được viết chi tiết như vậy, thân thiện với người mới bắt đầu
Xem bản gốcTrả lời0
PixelUniverseCat
· 12giờ trước
Kiểm tra hệ thống cách ly là giới hạn tối thiểu, trước đây đã gặp quá nhiều trường hợp AI nội bộ gặp sự cố
Xem bản gốcTrả lời0
GasFeeAnxiety
· 12giờ trước
Nemotron 3 Super 120B chạy nội bộ, đây có phải là mô hình lớn nhất có thể chạm tới cấp tiêu dùng không?
Xem bản gốcTrả lời0
MempoolDaydream
· 12giờ trước
Việc tải xuống mô hình 87GB gây nản lòng, nhưng chạy local 120B thật sự hấp dẫn
Xem bản gốcTrả lời0
SushiSlippage
· 12giờ trước
Không có hộp cát có thể hoàn toàn chống lại việc tiêm nhắc nhở nâng cao, lời nhắc này rất thực tế, các cao thủ trong lĩnh vực an ninh đều hiểu.
Xem bản gốcTrả lời0
  • Đã ghim