AI在线 AI在线

蚂蚁技术研究院

200美金，人人可手搓QwQ，清华、蚂蚁开源极速RL框架AReaL-boba

200美金，人人可手搓QwQ，清华、蚂蚁开源极速RL框架AReaL-boba
由于 DeepSeek R1 和 OpenAI o1 等推理模型（LRM，Large Reasoning Model）带来了新的 post-training scaling law，强化学习（RL，Reinforcement Learning）成为了大语言模型能力提升的新引擎。 然而，针对大语言模型的大规模强化学习训练门槛一直很高：流程复杂、涉及模块多（生成、训练、奖励判定等），为实现高效稳定的分布式训练带来很多挑战；R1/o1 类推理模型的输出长度很长（超过 10K），并且随着训练持续变化，很容易造成显存和效率瓶颈；开源社区缺乏高质量强化学习训练数据，以及完整可复现的训练流程。 本周，蚂蚁技术研究院和清华大学交叉信息院吴翼团队，联合发布了训练速度最快最稳定的开源强化学习训练框架 AReaL（Ant Reasoning RL），并公开全部数据和完成可复现的训练脚本。
3/31/2025 10:52:00 AM
机器之心
  • 1