Tencent Hunyuan 3.0 phiên bản chính thức mã nguồn mở: Chuyển sang Apache 2.0 xóa bỏ hạn chế ra nước ngoài, tỷ lệ ảo giác giảm một nửa

robot
Đang tạo bản tóm tắt
Báo cáo từ Jinse Finance, ngày 6 tháng 7, Tencent chính thức phát hành phiên bản chính thức của mô hình chuyên gia hỗn hợp (MoE) Hỗn Nguyên 3.0 (Hy3) với 295B tham số. Thay đổi cốt lõi nhất là giấy phép nguồn mở đã được chuyển sang Apache 2.0, loại bỏ các điều khoản địa lý trước đây cấm sử dụng ở EU, Anh và Hàn Quốc.
Khi phiên bản xem trước được phát hành vào tháng 4 năm nay, do các hạn chế địa lý nghiêm ngặt và giới hạn thương mại 100 triệu người dùng hoạt động hàng tháng, nhiều đội ngũ xuất khẩu hoặc xuyên quốc gia chỉ có thể nhìn mà không dám. Phiên bản chính thức đã dọn sạch mọi rào cản tuân thủ, đồng thời tối ưu hóa mạnh mẽ cho các vấn đề triển khai: nó kết hợp cơ chế suy nghĩ nhanh và chậm, và chèn một lớp Dự đoán nhiều Token (MTP) với 3,8B tham số để tạo song song, giúp giảm độ trễ suy luận hiệu quả. Sau khi làm sạch dữ liệu chi tiết và ràng buộc huấn luyện, phiên bản chính thức đã giảm tỷ lệ ảo giác (hallucination) của mô hình lớn từ 12.5% xuống 5.4%, và tỷ lệ lỗi trong kiểm tra tương tác nhiều vòng cũng giảm từ 17.4% xuống 7.9%.
Đối với vấn đề cứng đầu là việc gọi công cụ dễ bị lệch hướng khi phát triển tác nhân thông minh, Hỗn Nguyên 3.0 cũng đã được tăng cường định hướng. Dù trong Cline hay CodeBuddy và các framework phổ biến khác, biến động độ chính xác của việc gọi công cụ xuyên framework đều được giữ dưới 4%, đầu ra ổn định hơn. Phiên bản lượng tử hóa FP8 được phát hành đồng thời cũng đã hạ thấp ngưỡng bộ nhớ đồ họa cho việc triển khai cục bộ và tinh chỉnh.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • Bình luận
  • Đăng lại
  • Retweed
Bình luận
Thêm một bình luận
Thêm một bình luận
Không có bình luận
  • Đã ghim