智谱把GLM-5.2的炼丹炉直接开源了,Fable 5级的开源模型很快可能达到
智谱这次是真的把家底掏出来了。
它把自己内部用的强化学习训练框架开源了,名字叫slime。更让人意外的是,刚刚发布的GLM-5.2,整个OPD后训练在这个平台上仅仅用了大约2天时间。
GLM-5.2现在已经火遍全网,多项评测显示它的水平介于Opus 4.7和Opus 4.8之间,实际上可能相当于一个稳定版的Opus 4.5。这个结果放在几天前还没人敢想。
而且智谱还在憋大招,唐老师和马斯克有来有回讨论何时达到Fable 5级别
项目地址:https://github.com/THUDM/slime
slime是一个面向强化学习规模化训练的大模型后训练框架,提供两个核心能力。
第一是高性能训练,通过把Megatron和SGLang连接起来,支持各种模式下的高效训练。
第二是灵活的数据生成,通过自定义数据生成接口和基于服务器的引擎,可以实现任意的训练数据生成流程。
slime的设计目标,是让训练和数据生成这两个能力互相增强,同时避免把整个系统拆成一堆互不相关的训练器、推理服务和智能体框架。Megatron训练、SGLang推理、自定义数据生成、奖励计算、验证反馈和环境交互,全部走同一条训练、推理、数据缓冲区的路径。
这也让slime成为目前经过实战检验最多的开源强化学习后训练框架之一。它足够轻量,结构清晰,也容易扩展,同时还经受住了多个顶尖模型发布背后完整训练闭环的考验。
为什么这套设计重要
slime背后有几个关键设计点。
- 它经过了顶尖模型训练的验证。slime是GLM-5.2、GLM-5.1、GLM-5、GLM-4.7、GLM-4.6、GLM-4.5背后的强化学习训练框架。这意味着背后验证的是一整套完整的后训练流程,规模和复杂度远超普通的演示案例。
- 它把正确性放在第一位。强化学习里的bug往往不会立刻报错,所以slime保持数据流动的显式可见,支持只跑推理或只跑训练这两种模式分开调试,并把可复现性、容错能力、追踪、性能分析和持续集成都当作核心工程问题来对待。
- 它从设计之初就是原生的。slime直接透传Megatron的参数,并通过加上
--sglang- 前缀,把当前安装版本SGLang支持的参数也暴露出来。上游训练和推理框架的新优化可以直接拿来用,不需要在slime里再包一层。
- 它给数据生成留出最大自由度。数学、代码、搜索、工具调用、沙箱、验证器、环境交互,以及多智能体系统和长链路智能体工作流,都可以作为数据生成或奖励计算的方式接入,不需要去改动训练内核。
- 它足够轻量,但也做了明确取舍。slime深度优化的是Megatron加SGLang这一条大规模强化学习生产路径。只选一个推理后端,让slime能直接发挥SGLang特有的能力,而不用为了同时兼容多种推理框架,被迫只做各家都支持的最小公共功能。
生产验证
slime已经覆盖了发布级模型后训练所需要的完整流程,包括大规模训练、高吞吐推理、权重同步、奖励和验证数据处理、检查点管理、调试,以及长时间运行的稳定性。
除了GLM系列,slime还支持以下模型。
- Qwen系列:Qwen3.6、Qwen3.5、Qwen3Next、Qwen3MoE、Qwen3、Qwen2.5。
- DeepSeek V3系列:DeepSeek V3、V3.1、DeepSeek R1。
- Llama 3。
原生引擎透传与SGLang部署
slime不只是一个能调用推理后端的框架,它尽量保留Megatron和SGLang上游引擎原生的控制能力,同时在外层加上强化学习所需要的数据流。
具体来说包括这几点。
- 原生SGLang参数透传,当前安装版本SGLang支持的每一个参数,都可以加上
--sglang- 前缀来使用,比如把 --mem-fraction-static 写成 --sglang-mem-fraction-static。
- 原生Megatron参数透传,slime直接读取Megatron的参数,所以并行策略、优化器、检查点和模型配置这些Megatron侧的设置,不需要额外的包装代码就能继续使用。
- SGLang Config作为一个可选的YAML扩展,用来做拓扑相关的控制,比如给预填充、解码、EPD这类部署方式分别设置参数,配置异构服务器组、多模型服务,以及分组级别的SGLang参数覆盖。
- 面向多轮对话和智能体场景的PD分离方案,用来处理预填充和解码这两个阶段资源需求不一样的问题。
- 面向多轮智能体的会话亲和性等路由策略。
- 面向训练和推理分离场景、用于大模型高效更新权重的增量权重同步。
- 外部推理引擎支持,用来对接训练任务之外独立管理的部署形态,SGLang的服务端可以使用独立环境,在磁盘传输模式下甚至能用不同型号或不同厂商的GPU,并通过共享文件系统完成从磁盘的完整或增量检查点更新。
这种透传式的设计,让slime从一开始就具备原生属性。上游引擎大多数的优化升级后能直接拿来用,slime自己则把精力主要放在强化学习的循环逻辑、数据流转、同步机制和正确性检查上。
选择SGLang作为唯一的推理后端也是经过深思熟虑的决定。支持多个后端的框架往往需要在各个推理引擎的公共能力交集上做抽象,结果会把每个后端最强的特性都磨平。slime选择深度优化SGLang,让强化学习任务可以直接用上SGLang特有的服务、路由、缓存、分离部署和权重同步能力。
正确性、稳定性与持续集成
slime是按照基础设施的标准来开发的,因为脚本能跑起来远远不够。项目维护了CPU单元测试、自定义钩子的契约测试,以及GPU端到端测试,覆盖稠密模型和混合专家模型、Megatron训练路径、SGLang部署配置、检查点、数值精度、异步推理、OPD、PPO类工作流,以及调试用的先推理后训练回放。
博文
slime团队发布过三篇相关文章。一篇是项目愿景说明《slime:为RL Scaling设计的SGLang-Native后训练框架》。一篇是关于纯异步智能体训练的思考,标题是《Agent-Oriented Design: An Asynchronous and Decoupled Framework for Agentic RL》。还有一篇是v0.1.0版本的更新日志《slime v0.1.0:重新定义高性能RL训练框架》。
架构总览
slime主要由三个模块组成。
- training模块基于Megatron,负责主要的训练流程,从数据缓冲区读取数据,训练结束后把参数同步给推理模块。
- rollout模块基于SGLang加路由器,负责生成新数据,包括奖励和验证结果,并把数据存进数据缓冲区。通过自定义生成接口,可以在这一层叠加多轮循环、工具调用、环境或沙箱交互,以及基于验证器的奖励计算。
- data buffer是连接两边的桥梁模块,负责管理提示词初始化、自定义数据,以及各种推理数据生成方式,包括用同一套接口产出样本的智能体工作流。
快速开始
完整的环境配置、数据准备、训练启动和关键代码讲解都在官方的快速开始指南里。项目里的examples目录还提供了一些指南之外的使用示例。
几个智能体强化学习的例子值得一提,它们都是通过自定义接口接入标准的推理和数据缓冲区闭环,而不是另起一套独立框架。
- multi_agent示例,通过自定义
--rollout-function-path 实现多智能体的推理。
- search-r1示例,通过
--custom-generate-function-path 实现搜索和检索增强风格的多轮生成。
- fully_async示例,做的是完全异步推理,适合不同样本生成耗时差异很大的长尾智能体场景。
- coding_agent_rl示例,是端到端的软件工程类编程智能体强化学习,包含沙箱化的工具调用、基于测试的奖励,以及通过自定义生成接口导出的token级正确轨迹片段。
基于slime构建的生态
这部分项目不只是demo,它们是一批把slime当作可复用强化学习底座的独立系统,覆盖生产级后训练、智能体强化学习、垂直领域强化学习,以及推理系统研究。
- Miles,由RadixArk基于slime构建,是面向大规模模型训练的企业级强化学习框架。它和slime保持紧密的上游同步,同时针对企业场景做了更深度的SGLang集成、配套的运维部署工具,以及针对新模型和新硬件的优化,还在持续加入LoRA、TITO、低精度训练等生产环境需要的能力。
- vime,由vLLM项目维护,是基于slime构建的vLLM原生后训练框架。它保留了slime的Megatron训练栈、数据缓冲区流转和自定义数据生成设计,主要变化是把推理后端换成了vLLM,搭配vllm-router使用,在现有slime启动脚本上只需调整推理相关参数就能完成适配。
- Relax,全称Reinforcement Engine Leveraging Agentic X-modality,是RedAI Infra团队开源的全模态智能体强化学习框架,构建在Ray、Megatron-LM和SGLang组成的slime基础设施之上。它采用Ray Serve上的服务化架构,用TransferQueue把Actor、Rollout、ActorFwd、Reference和优势计算完全解耦到独立的GPU集群,还引入了分布式检查点服务,通过NCCL广播的权重同步引擎把更新后的Actor权重异步流式传给Rollout、ActorFwd和Reference,并与下一步训练重叠,从而在可配置的滞后程度下实现完全异步训练。Relax支持文本、视觉、音频(包括Qwen3-Omni)以及智能体多轮推理的端到端强化学习。
- OpenClaw-RL,是面向个性化OpenClaw智能体的强化学习服务,它托管OpenClaw模型,并从跨部署的历史对话中持续改进模型,同时依靠slime的异步强化学习基础设施避免训练过程干扰正常的接口服务。它支持两种自动优化方法,一种是基于后续状态推断二元反馈的GRPO,另一种是从后续反馈中提取事后提示的同策略蒸馏。
- P1,是一系列完全通过强化学习训练的开源物理推理模型,使用slime作为后训练框架,并提出了一套多阶段强化学习训练算法,通过自适应的可学习性调整和稳定机制逐步增强推理能力,在开源物理推理上取得了突破性的表现。
- RLVE,提出用可验证环境来扩展语言模型的强化学习。这些环境会以程序化方式生成问题,并提供可以用算法验证的奖励。通过在400个可验证环境上联合训练,RLVE能让每个环境随训练进展动态调整问题难度分布,匹配当前策略模型的能力水平。
- TritonForge,用slime的监督微调和强化学习能力,训练能自动生成优化GPU内核的大模型。通过监督微调加上带多轮编译反馈的强化学习这两阶段训练,TritonForge在把PyTorch算子转换成高性能Triton内核这件事上取得了明显效果。
- APRIL,提出一种可以无缝集成进slime的系统级优化,用来加速强化学习训练里推理生成这一阶段。它通过主动多发请求并管理部分完成结果,缓解推理生成中常见的长尾瓶颈,而这个阶段通常会占掉强化学习训练90%以上的时间。
- qqr,又叫hilichurl,是slime的一个轻量扩展,用来演化开放式智能体。它实现了ArenaRL算法,通过锦标赛式的相对排名,比如种子单淘汰赛和循环赛,缓解判别性能坍缩问题,同时无缝集成模型上下文协议。qqr借助slime的高吞吐训练能力,在标准化、解耦的工具环境里实现可扩展的分布式智能体演化。
- ART,全称AgentCore RL Toolkit,是一个能把真实生产环境中的智能体适配到AWS Bedrock AgentCore运行时上做强化学习训练的工具包。AgentCore运行时提供能自动扩展并且沙盒化隔离的智能体运行环境,很适合安全地并行跑大量智能体推理。用户只需要在智能体代码上加一个装饰器,就能在复用生产环境智能体框架的基础上完成强化学习训练的适配,用于训练的token捕获在模型网关层完成。ART把slime列为强化学习训练的后端选项之一,方便用户直接用slime里的算法优化生产环境上的智能体模型。
这些项目共同说明了slime的核心思路,一个高性能的强化学习内核可以同时支撑顶尖模型的后训练、在线智能体优化、可验证环境、全模态推理、内核生成智能体和推理系统研究,不需要改动核心训练循环。
参数说明
slime的参数分为三类。
- 第一类是Megatron参数,slime会直接读取,可以通过类似
--tensor-model-parallel-size 2 的方式来配置。
- 第二类是SGLang参数,支持当前环境里安装版本SGLang的全部参数,这些参数需要加上
--sglang- 前缀,比如 --mem-fraction-static 要写成 --sglang-mem-fraction-static。
- 第三类是slime自身的参数,具体可以查看项目里的slime/utils/arguments.py文件。
项目地址:https://github.com/THUDM/slime