Tăng tốc 208 lần + dự đoán 5 micro giây, chạy KMeans trên H200 trực tiếp đạt 61% đỉnh FLOPS, nhóm Berkeley đã làm Triton trở nên phong phú hơn

Trang web của Coinjie cho biết, thư viện tăng tốc học máy mã nguồn mở FlashLib do nhóm Berkeley và các nhóm khác phát triển, bao gồm 15 toán tử cấp cao, dựa trên Triton và Cutedsl, đạt tốc độ đáng kể trên GPU H200 cho các toán tử như KMeans, KNN, đạt tối đa 208x. So với cuML 25.10, KMeans 26x, KNN 19x, HDBSCAN 40x, TruncatedSVD 208x; tối đa FLOPS của KMeans đạt 61%, băng thông của KNN đạt 85.2%. Ngoài ra, FlashLib còn cung cấp API dự đoán hiệu suất trong vòng 5 microgiây, ước lượng thời gian chạy và tiêu thụ bộ nhớ GPU, mã nguồn đã mở trên GitHub.