vkhosla giới thiệu mô hình 1-bit Bonsai 8B, dung lượng bộ nhớ chỉ 1.15GB

MeNews · 2026-04-01T04:41:18+00:00

1-bit Bonsai 8B là một mô hình trọng số 1 bit mới, chỉ chiếm 1.15 GB bộ nhớ. Nó nhỏ hơn mô hình độ chính xác cao gấp 14 lần trên phần cứng biên, tốc độ nhanh hơn 8 lần, hiệu quả năng lượng cao hơn 5 lần, và vượt trội hơn các mô hình gần đây của Google.

MeNews

2026-04-01 04:41:18

Đang tạo bản tóm tắt

Tin tức ME：Thông điệp, ngày 1 tháng 4 (UTC+8), gần đây, tác giả vkhosla đã giới thiệu trên mạng xã hội một mô hình trọng số 1-bit có tên là 1-bit Bonsai 8B. Theo phần giới thiệu, mô hình này chỉ chiếm 1,15 GB bộ nhớ và mật độ trí tuệ (intelligence density) được cho là lớn hơn ít nhất 10 lần so với mô hình tương ứng ở dạng toàn độ chính xác. Quan điểm trong bài viết cho biết, trên phần cứng biên, mô hình này đã giảm kích thước 14 lần, tăng tốc độ 8 lần, đồng thời cải thiện hiệu suất năng lượng lên 5 lần, và trong khi so sánh với các mô hình khác vẫn giữ được tính cạnh tranh. Thông tin cũng cho biết, mô hình này có khả năng nén tốt hơn, tốc độ nhanh hơn, thể tích nhỏ hơn và hiệu suất năng lượng cao hơn so với mô hình mà Google công bố vào ngày hôm trước. Bản gốc không cung cấp các bộ chuẩn so sánh hiệu năng cụ thể của mô hình, đơn vị phát hành, chi tiết hiện thực kỹ thuật hoặc kết quả đánh giá đầy đủ. (Nguồn: InFoQ)

Xem bản gốc

Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.