Tencent Hunyuan this time integrated LLM and diffusion models into the same reinforcement learning framework, with flow-dppo and drpo dual algorithms launched simultaneously, the technical approach is quite bold.

Посмотреть Оригинал
CoinNetwork
币界网消息,腾讯混元开源UniRL,将大语言模型与扩散模型纳入同一套强化学习后训练框架,使文本、视觉语言、图像和视频生成模型得以共用统一训练循环。
针对扩散与流匹配模型,混元团队推出flow-dppo算法,利用流匹配模型每步策略的高斯分布特性,直接用KL散度约束策略更新,并通过不对称发散掩码避免模型偏离过远,保持稳定收敛。
针对语言大模型,团队同步推出drpo算法,引入优势加权的二次正则项代替硬截断,确保模型偏离目标分布时仍能获得连续的梯度纠偏信号。
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
  • Награда
  • комментарий
  • Репост
  • Поделиться
комментарий
Добавить комментарий
Добавить комментарий
Нет комментариев
  • Закреплено