Qwen 3.6 27B Mô hình Dense đạt 40 token/giây trên RTX 3090

robot
Đang tạo bản tóm tắt

AIMPACT tin nhắn, ngày 24 tháng 4 (UTC+8), ngày 24 tháng 4 năm 2026, người dùng @sudoingX đã đăng kết quả thử nghiệm sơ bộ: Mô hình Dense Qwen 3.6 27B trên một card RTX 3090 24GB, với tốc độ 40 token/giây qua 10/10 bài kiểm tra. Kết quả này không sử dụng kỹ thuật lượng hóa hoặc hợp nhất lõi, chỉ áp dụng lượng hóa trực tiếp llama.cpp Q4_K_M. Người dùng cũng đã viết một bài kiểm tra chuẩn particle swarm để đánh giá mô hình. (Nguồn: InFoQ)

Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • Bình luận
  • Đăng lại
  • Retweed
Bình luận
Thêm một bình luận
Thêm một bình luận
Không có bình luận
  • Ghim