Tencent Mở nguồn Trợ lý Nhớ, Giảm tiêu thụ Token lên đến 61%

robot
Đang tạo bản tóm tắt

Vào ngày 14 tháng 5, Tencent Cloud chính thức công bố mã nguồn mở Bộ nhớ Đại lý TencentDB, cung cấp khả năng nén bộ nhớ tạm thời và bộ nhớ cá nhân dài hạn cho các tình huống nhiệm vụ dài của Đại lý. Theo giới thiệu, Bộ nhớ Đại lý TencentDB sử dụng công nghệ ‘Bù đắp Ngữ cảnh + Bản vẽ Nhiệm vụ Mermaid’ để chuyển toàn bộ thông tin ra lưu trữ bên ngoài trong khi giữ lại các trạng thái chính và đường dẫn thực thi trong một đồ thị nhiệm vụ có cấu trúc. Điều này cho phép Đại lý duy trì một ngữ cảnh nhẹ trong các nhiệm vụ dài, đồng thời hỗ trợ theo dõi lớp và phục hồi thông tin gốc. Trong các thử nghiệm với các phiên đa nhiệm liên tục, giải pháp này đạt được mức giảm tối đa 61% lượng token tiêu thụ, đồng thời cải thiện tỷ lệ thành công của các nhiệm vụ trong các tình huống nhiệm vụ dài.

Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • Bình luận
  • Đăng lại
  • Retweed
Bình luận
Thêm một bình luận
Thêm một bình luận
Không có bình luận
  • Đã ghim