DeepSeek lại ra mắt bài báo mới

Trong sự mong đợi của ngành công nghiệp đối với mô hình flagship thế hệ mới DeepSeek V4, đội ngũ DeepSeek đã âm thầm phát hành một bài báo học thuật mới.
Bài báo này được DeepSeek phối hợp với Bắc Đại và Thanh Hoa cùng viết, sẽ đưa ra hướng nghiên cứu vào một khía cạnh quan trọng quyết định việc ứng dụng thực tế của các mô hình lớn - tốc độ suy diễn, cung cấp một giải pháp hệ thống cơ sở hạ tầng hiệu quả cho các tác nhân AI ngày càng phức tạp.
Cụ thể, bài báo mới giới thiệu một hệ thống suy diễn đổi mới có tên là DualPath, chuyên tối ưu hiệu suất suy diễn của mô hình lớn (LLM) dưới tải trọng công việc của các tác nhân.
Bằng cách giới thiệu cơ chế “đọc KV-Cache theo hai đường” (tương tự như bộ nhớ đệm), phân bổ lại tải trọng mạng lưu trữ, đã nâng cao thông lượng suy diễn ngoại tuyến lên tới 1,87 lần, số lượng tác nhân hoạt động mỗi giây của dịch vụ trực tuyến trung bình tăng 1,96 lần.
Bài báo đề cập trong phần giới thiệu rằng, mô hình lớn đang nhanh chóng tiến hóa từ chatbot đối thoại đơn lẻ và mô hình suy diễn độc lập sang hệ thống tác nhân - có khả năng tự lập kế hoạch, gọi công cụ và giải quyết các nhiệm vụ thực tế thông qua tương tác nhiều vòng.
Sự chuyển đổi trong mô hình ứng dụng này đã thúc đẩy tải trọng suy diễn của mô hình lớn xảy ra những biến đổi đáng kể: từ tương tác truyền thống giữa con người và mô hình lớn, chuyển sang tương tác giữa con người - mô hình lớn - môi trường, số vòng tương tác có thể đạt hàng chục thậm chí hàng trăm vòng.
(Phát triển Kinh tế Thứ nhất)