後訓練推論モデルSU-01は、オリンピックレベルの試験で金牌性能を実現しました

robot
概要作成中
AIMPACT メッセージ、5 月 16 日(UTC+8)、新しい論文が後訓練推論モデルをオリンピックレベルの解答器に変換するシステム的方法を提案し、その方法に基づいてSU-01モデルを訓練した。
この方法は三つのステップを含む:まず、逆困惑度コースを用いた監督微調整で厳格な証明探索と自己検査行動を注入する;次に、二段階の強化学習(検証可能な報酬強化学習から証明レベルの強化学習へ移行)でこれらの行動を拡張する;最後に、テスト時のスケーリングによって性能を向上させる。
研究チームはこの方法を30B-A3Bバックボーンモデルに適用し、約34万のサブ8Kトークン軌跡を用いて監督微調整を行い、その後200ステップの強化学習を経てSU-01を得た。
このモデルは困難な問題に対して安定した推論を行い、軌跡長は10万トークンを超え、IMO 2025/USAMO 2026やIPhO 2024/2025などの競技で金メダルレベルに達し、数学や物理以外の科学推論分野での一般化能力も示した。(出典:InFoQ)
原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • 6
  • 2
  • 共有
コメント
コメントを追加
コメントを追加
NoSleepBridge
· 4時間前
後訓練変換のこの方法論、他の分野でも模倣できますか
原文表示返信0
ExitLiquidityStan
· 4時間前
自己点検メカニズムは重要であり、多くのモデルがこれを欠いている
原文表示返信0
NftsOutsideTheTidalLine
· 4時間前
34万の軌跡を入力し、RLはわずか200ステップ、効率がかなり良い
原文表示返信0
PineNeedlesAndColdWind
· 4時間前
ついに証明探索をコア能力として訓練する人が現れた、方向性は正しい
原文表示返信0
MirrorPetals
· 4時間前
物理オリンピックもできるの?この汎化能力は確かに予想外だ
原文表示返信0
SudoSoul
· 4時間前
IMO金牌レベル...今後のコンテストは人間チームとAIチームに分かれるのかな
原文表示返信0