Mô hình suy luận hậu huấn luyện SU-01 đạt hiệu suất huy chương vàng trong các đề thi cấp Olympic

robot
Đang tạo bản tóm tắt
AIMPACT tin nhắn, ngày 16 tháng 5 (UTC+8), một bài báo mới đề xuất phương pháp hệ thống chuyển đổi mô hình suy luận sau huấn luyện thành bộ giải quyết câu đố cấp Olympic, và dựa trên phương pháp này huấn luyện mô hình SU-01. Phương pháp này gồm ba bước: đầu tiên sử dụng khóa học độ rối loạn ngược để tinh chỉnh có giám sát, nhằm truyền đạt hành vi tìm kiếm chứng minh nghiêm ngặt và tự kiểm tra; sau đó mở rộng các hành vi này thông qua học tăng cường hai giai đoạn (từ học tăng cường dựa trên phần thưởng có thể xác minh đến học tăng cường cấp chứng minh); cuối cùng, nâng cao hiệu suất bằng cách phóng to khi kiểm tra. Nhóm nghiên cứu áp dụng phương pháp này cho mô hình nền 30B-A3B, sử dụng khoảng 340.000 đoạn đường dẫn gồm 8K token con để tinh chỉnh có giám sát, sau đó thực hiện 200 bước học tăng cường, thu được SU-01. Mô hình này có khả năng suy luận ổn định các vấn đề khó, với độ dài đường dẫn vượt quá 100.000 token, đạt cấp huy chương vàng trong các cuộc thi như IMO 2025/USAMO 2026 và IPhO 2024/2025, và thể hiện khả năng tổng quát trong lĩnh vực suy luận khoa học ngoài toán học và vật lý. (Nguồn: InFoQ)
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • 6
  • 2
  • Retweed
Bình luận
Thêm một bình luận
Thêm một bình luận
NoSleepBridge
· 4giờ trước
Sau khi huấn luyện lại, phương pháp này có thể được các lĩnh vực khác sao chép không
Xem bản gốcTrả lời0
ExitLiquidityStan
· 4giờ trước
Cơ chế tự kiểm tra là yếu tố then chốt, nhiều mô hình thiếu chính là điều này
Xem bản gốcTrả lời0
NftsOutsideTheTidalLine
· 4giờ trước
34万 lượt hành trình được đưa vào, RL chỉ 200 bước, hiệu quả thật đáng nể
Xem bản gốcTrả lời0
PineNeedlesAndColdWind
· 4giờ trước
Cuối cùng cũng có người xem chứng minh tìm kiếm như là năng lực cốt lõi để đào tạo, hướng đi đúng rồi
Xem bản gốcTrả lời0
MirrorPetals
· 4giờ trước
Bạn có thể tổ chức cuộc thi Vật lý Olympic không? Khả năng tổng quát hóa này thực sự không ngờ tới
Xem bản gốcTrả lời0
SudoSoul
· 4giờ trước
Cấp độ vàng IMO... sau này cuộc thi có phải sẽ chia thành nhóm con người và nhóm AI không
Xem bản gốcTrả lời0
  • Đã ghim