GLM-5.2 dẫn đầu bảng xếp hạng tinh chỉnh giữa tranh cãi, các tác giả làm rõ: Không chưng cất từ Claude

robot
Đang tạo bản tóm tắt
Theo giám sát của Dongcha Beating, mô hình nguồn mở GLM-5.2 đã đứng đầu bảng xếp hạng tự tinh chỉnh PostTrainBench, nhưng vấp phải chỉ trích từ đối thủ scaling01 vì thiếu giá trị thực tiễn. Ông chỉ ra rằng thứ hạng của mô hình đã nhảy từ vị trí thứ 22 lên thứ 1 chỉ trong vài tháng, điều này rất bất thường, và bài kiểm tra thiếu tập ẩn, khiến các tác nhân dễ dàng khai thác tối ưu hóa thứ hạng, dẫn đến các mô hình khó triển khai trong thế giới thực. Tuy nhiên, những người ủng hộ phản bác rằng thật phi thực tế khi kỳ vọng các tác nhân hoàn thành việc tinh chỉnh tổng quát dưới ràng buộc của một GPU H100 duy nhất trong 10 giờ, và tối ưu hóa có mục tiêu là một tiêu chuẩn trong học máy. Nhật ký công khai cho thấy GLM-5.2 có logic thí nghiệm rõ ràng, có thể tự động thu thập dữ liệu từ các giả thuyết lấy mẫu khác nhau, tự lập kế hoạch hoàn chỉnh cho việc thiết lập đường cơ sở hiệu suất, tinh chỉnh và lọc dữ liệu bằng cách sử dụng lấy mẫu loại bỏ, đồng thời cố gắng tránh overfitting trong chuỗi suy luận. Giá trị lớn hơn của cuộc tranh cãi này nằm ở chỗ quỹ đạo hoạt động công khai ban đầu nhằm đánh giá khả năng tinh chỉnh đã bất ngờ bác bỏ những tin đồn trong ngành về việc các mô hình lớn trong nước bị chưng cất nặng nề từ Claude. Tác giả của benchmark, Maksym Andriushchenko, sau khi xem xét nhật ký của GLM-5.2, lưu ý rằng mô hình có sự khác biệt cơ bản so với Claude trong thu thập dữ liệu, kết hợp chiến lược và đường dẫn quyết định, không có dấu hiệu bắt chước hoặc chưng cất. Tính minh bạch của các benchmark bên thứ ba thay vào đó đã trở thành cửa sổ trực tiếp nhất để các mô hình lớn nguồn mở thể hiện khả năng nghiên cứu và phát triển nguyên bản của chúng.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • Bình luận
  • Đăng lại
  • Retweed
Bình luận
Thêm một bình luận
Thêm một bình luận
Không có bình luận
  • Đã ghim