loongsage

产品配图

关于

LoongSage 是一个大模型强化学习后训练框架，以 Ray 为调度底座、Megatron-Core 为训练后端、SGLang 为推理后端。智能体只需标准 chat completion 接口即可零侵入接入 RL 训练，多轮对话、工具调用、沙箱管理均自动完成；提供经真实业务验证的数学、代码修复、多教师蒸馏训练配方，开箱即用且稳定收敛，并在 MoE 与低精度场景下提供系统级训推一致性保证。我是项目开发者之一，在此自荐。 亮点 智能体零侵入接入：任意智能体通过标准 chat completion 接口调用内置推理服务即可接入 RL 训练，多轮上下文拼接、损失掩码、轨迹采集与沙箱生命周期全部由 AgentFlow 模块自动完成，业务逻辑与训练底座完全解耦 开箱即用的训练配方：数学、Agent 代码修复、多教师在线蒸馏等场景提供已调优的完整配置（Qwen3-4B/30B-A3B、DeepSeek-V4-Flash），配方经百度内部真实业务训练持续打磨，无需摸索超参即可跑通 系统级训推一致性保证：内置专家路由回放、FP32 输出层、重要性采样修正等技术，在 MoE + 低精度场景下将训推概率偏差稳定控制在万分位量级，显著降低训练崩溃风险 全异步训练：Partial Rollout 与过采样让采样和训练完全解耦、并行推进，实测吞吐提升 39%；权重同步自动选择 CUDA IPC 零拷贝或 NCCL 广播最优路径 轻量内核随处可改：仅约 1.4 万行代码，只依赖 Megatron-Core、Megatron-Bridge 与 SGLang；提供 12 个插件扩展点（智能体、奖励、沙箱、算法、KL 散度等），放入 custom 目录即可热插拔，无需改动框架主干 中英文文档齐全（快速上手、扩展教程、配置速查），配套 arXiv 技术报告，Apache 2.0 开源

收录记录

1. HelloGitHub·用户投稿

   2026年11月2日 · 1 次收录