Bonsai 27B: Mô hình đa phương thức cấp 27B đầu tiên có thể chạy trực tiếp trên điện thoại di động

robot
Đang tạo bản tóm tắt
ME AI tin nhắn, Bonsai 27B dựa trên Qwen3.6 27B, cung cấp hai biến thể: tam phân (1,71 bit hiệu dụng/trọng số, 5,9 GB) và 1-bit (1,125 bit hiệu dụng/trọng số, 3,9 GB). Biến thể sau lần đầu tiên đưa mô hình cỡ 27B vào iPhone 17 Pro. Mô hình hỗ trợ suy luận nhiều bước, gọi công cụ theo cấu trúc, tác vụ thị giác và vòng lặp cho tác nhân sử dụng máy tính, có cửa sổ ngữ cảnh 262K token, và hỗ trợ tăng tốc suy đoán giải mã. Trên 15 bài benchmark, biến thể tam phân giữ 95% hiệu năng so với mốc baseline toàn độ chính xác, biến thể 1-bit giữ 90%; năng lực toán học và lập trình gần như không suy giảm. Được mã hóa nguồn mở theo giấy phép Apache 2.0. 🔗 Đọc bài gốc: thông qua AI HOT ·
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • Bình luận
  • Đăng lại
  • Retweed
Bình luận
Thêm một bình luận
Thêm một bình luận
Không có bình luận
  • Đã ghim