腾讯混元3.0 phiên bản chính thức mã nguồn mở: Chuyển sang Apache 2.0 dỡ bỏ hạn chế ra nước ngoài, tỷ lệ ảo giác giảm một nửa

robot
Đang tạo bản tóm tắt

Theo giám sát của Dongcha Beating, Tencent đã chính thức phát hành phiên bản chính thức của mô hình hỗn hợp chuyên gia (MoE) Hunyuan 3.0 (Hy3) với 295B tham số. Thay đổi cốt lõi nhất là giấy phép nguồn mở đã được đổi thành Apache 2.0 thoải mái nhất, bãi bỏ các điều khoản khu vực trước đây cấm sử dụng ở EU, Anh và Hàn Quốc.

Khi phiên bản xem trước được phát hành vào tháng 4 năm nay, do các hạn chế khu vực nghiêm ngặt và giới hạn thương mại 100 triệu người dùng hoạt động hàng tháng, nhiều đội ngũ ra nước ngoài hoặc xuyên quốc gia chỉ có thể lùi bước. Phiên bản chính thức đã dọn sạch mọi rào cản tuân thủ, và còn tinh chỉnh mạnh mẽ cho các vấn đề triển khai thực tế: nó kết hợp cơ chế suy nghĩ nhanh và chậm, và nhồi thêm một lớp dự đoán đa Token (MTP) 3.8B tham số để tạo song song, hiệu quả giảm độ trễ suy luận. Sau khi làm sạch dữ liệu chi tiết và ràng buộc huấn luyện, phiên bản chính thức đã giảm tỷ lệ ảo giác nói bậy của mô hình lớn từ 12.5% xuống 5.4%, tỷ lệ lỗi trong thử nghiệm tương tác nhiều vòng cũng giảm từ 17.4% xuống 7.9%.

Đối với căn bệnh khó chữa là việc gọi công cụ dễ bị lệch trong phát triển tác nhân, Hunyuan 3.0 cũng đã tăng cường định hướng. Dù trong Cline hay CodeBuddy và các scaffold chính thống khác, biến động độ chính xác của gọi công cụ xuyên khung đều được giữ trong vòng 4%, đầu ra ổn định hơn. Phiên bản lượng tử hóa FP8 được phát hành đồng thời bởi chính thức cũng đã hạ thấp ngưỡng bộ nhớ GPU cho triển khai cục bộ và tinh chỉnh.

Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • Bình luận
  • Đăng lại
  • Retweed
Bình luận
Thêm một bình luận
Thêm một bình luận
Không có bình luận
  • Đã ghim