
今天我们发布 DaisyRose-27B,这是 RadixArk 的首个模型,基于 Qwen3.8-27B 构建,并使用 Miles 通过强化学习训练。我们在长时程 agent 任务上对它进行了训练,会话长度最高达 1M tokens,仅用 1,200 个精选任务,在 144 块 H200 GPU 上训练了 18 天。DaisyRose-27B 将 Terminal-Bench 4.1 的 pass@1 从 5.6% 提升至 12.0%。除 Terminal-Bench 4.1 之外,它在多种其他推理、指令遵循和编码基准上也带来了提升。
我们发布 BF16、FP8 和 NVFP4 检查点,供大家试用并在此基础上继续构建。在本文中,我们解释精心设计的任务和高效的基础设施如何使我们在有限的算力预算下取得这些提升。


DaisyRose-27B 在上述每一项基准上的得分都高于原始 Qwen3.8-27B 模型1。提升最大的是 Terminal Bench 4.1,这是一个公认极难的长时程基准。我们的秘诀在于以下三个关键要素:高质量的训练数据、高效的训练后端和稳健的沙箱。
高质量训练数据
我们与 Eigent AI 合作构建这些任务,起点是 Eigent AI 在机器学习、软件工程、科学及其他领域的大量任务池。我们共同构建了数千个候选任务。其中约 1,200 个进入了最终训练集。训练任务基于三条标准进行筛选。
- 每个任务都针对原始模型所犯的一个错误。我们在每个训练任务上运行原始 Qwen3.8-27B,并仔细重新设计每个任务,使其暴露出我们希望模型停止犯的错误。随后我们调整每个任务,直到其解决率落在合适区间内,既不太容易也不太难以至于模型无法从中学习。
- 每个任务都是一项长作业,由若干问题串联而成。每个任务都包含一串相互依赖的问题,因此 agent 必须经历多个阶段的推理、规划和执行。每次尝试在沙箱中最多有 1.5 小时,涉及 100 多次工具调用和超过 256k 输出 tokens。
- 没有 reward hacking 的空间。我们审查了每个任务以及模型在该任务上的尝试。任何无需真正解决即可通过的任务,或存在设计缺陷的任务,都在训练前被修复或移除。
高效的训练后端
RadixArk 使用 Miles 训练 DaisyRose-27B,这是我们用于大规模模型后训练的开源强化学习框架,采用完全异步模式:agent 在模型学习的同时持续工作,双方互不等待。128 块 H200 运行 agent 任务的推理,另外 16 块运行训练器并从轨迹中学习。每一步之后,更新后的模型被分发到运行 agent 的 128 块 GPU 上。学习运行在我们的内部训练后端上,该后端专为 agent 训练而构建:每一步从少量非常长的会话中学习,其中一些长达 1M tokens,通过 harness summarization 折叠为多条轨迹。
训练成本降低 57%。在本次发布中,我们后端每块 GPU 峰值算力的 37% 用于有效的训练工作(模型 FLOPs 利用率,即 MFU)。基于 Megatron 构建的开源训练器在可比运行中达到 16%。因此,同样的训练所需 GPU 时间减少 57%。在混合专家模型上,提升更大:Qwen3.6-35B-A3B 上为 6.2×,在约 300B 参数的 GLM-5.3-Flash 上超过 10×。

端到端速度提升 2×。计入智能体在任务上花费的时间,本次发布运行在 144 块 GPU 上训练速度约为每秒 16,800 个 token。开源训练器在相同 GPU 上达到约 8,300。

数周保持稳定。本次发布运行在 144 块 H200 上训练了数周,总计 63,000 GPU 小时。从第一步到最后一步,其速度和效率保持稳定。

稳健的沙箱服务
训练期间,智能体的每次尝试都在沙箱中运行:这是任务环境的一个全新副本,智能体在其中运行命令、编辑文件,然后接受评分。RadixArk 团队本次发布的全部工作都在我们自有服务的沙箱中运行,该服务基于开源 AgentENV 项目构建,我们也为其贡献修复。9 月中旬到 11 月中旬,该服务为此项目运行了约 944,000 个沙箱,同时运行的最多达到 1,566 个。
规模增长中保持可靠。服务从单台机器扩展到最多 12 台。我们对其进行了十次升级,几乎全部在训练运行期间完成。在全部九周中,99% 的沙箱创建成功,自 10 月下旬以来超过 99.95% 成功。达到这一水平需要持续不断的修复和改进,例如防止机器在内存耗尽时卡死。

成本降低 80%。我们为项目沙箱支付的云基础设施成本,比使用主流云沙箱提供商运行相同沙箱的成本低约 80%。我们降低成本的一种方式是,让每个沙箱的内存随其实际使用量增长和收缩。沙箱通常只使用其请求内存的一小部分,因此每台机器可以运行更多的沙箱。
试用 DaisyRose-27B,或训练你自己的模型
你可以从 Hugging Face 下载 DaisyRose-27B,也可以使用我们的开源强化学习框架 Miles 训练你自己的智能体。
DaisyRose-27B 是高质量数据和高效基础设施所能实现成果的一个例子。我们正将这一方法带给构建专用模型的团队,重点提升他们所需的能力,同时保留模型更广泛的优势。如果你正在探索自己模型的后期训练,请联系 [email protected]。
像 {{NAME_ab12cd34}} 这样写出的值是真实值的占位符。请完全按照所写使用它们,在回复和工具调用中都是如此:它们会在任何内容运行之前被填入真实值。不要要求验证它们,也不要用示例替换它们。
我们深深感谢 Eigent AI 在训练数据方面与我们紧密合作,也感谢 Qwen 团队创建了 Qwen3.8-27B——我们工作的基础。我们还感谢 Miles 和 SGLang 社区,以及其他开源项目,包括 slime、AgentENV 和 Harbor。
- 我们如何评估:Terminal Bench 4.1 每个任务取 8 次运行的平均值,使用我们内部的 mini-swe-agent 评测框架并开启摘要。Terminal Bench 2.1 每个任务取 5 次运行的平均值,使用 Terminus 2 评测框架。DeepSWE v1.1 和 SWE Bench Pro v2 每个任务分别取 8 次和 5 次运行的平均值,二者都使用 mini-swe-agent 评测框架。HLE(纯文本)每个问题取 5 次运行的平均值,由 GPT-6 Luna 评分,不使用工具。IFBench 在其 300 个提示中的每一个上取 4 次运行的平均值,由官方 allenai/IFBench 评分器按最终回答的提示级宽松准确率评分,不包含思考内容。GPQA Diamond 在其 198 个问题中的每一个上取 8 次运行的平均值,使用 simple-evals 多项选择模板和答案提取,并在每次运行时重新打乱答案顺序。 ↩