设计一次,规模化部署:构建模板驱动的机器学习生态

- 随着机器学习生态扩展到大量生产模型,瓶颈已不再是发明改进这些模型的新技术,而是如何在碎片化的模型空间中可靠、高效地交付它们,形成水涨船高之势。
- 在 Meta,我们构建了一套模板驱动的方法,将模型设计标准化为一小套可复用、可组合的构建块,把模型迭代从单个模型的问题转变为共享的系统性问题。
- 在过去两年中,这一方法将单模型工程时间减少了 92%,交付了 5000+ 个技术与模型的组合,在中等服务容量下将离线模型质量平均提升 0.63%,并实现了 0.86% 的累计线上提升,按数量覆盖了 70% 的模型。
- 这项工作在我们的论文《Design Once, Deploy at Scale: Template-Driven ML Development for Large Model Ecosystems》中有完整详述。
Meta 的广告排序系统每天要在多样化的产品和优化目标下处理数十亿次请求,由大量生产模型提供服务。在这种规模下,提升用户相关性和广告主价值的主要挑战已从发明新技术转向传播新技术。每一个高影响力的想法都需要触达它所适用的每一个模型,而逐个模型去适配无法随模型规模扩展。
在大规模机器学习系统中,碎片化会迅速累积。一个新架构落地在一个模型上,但把它带到生态的每个角落可能需要数年。一次平台迁移对某一类模型有效,却会在长尾的专用配置上失效。一条调优洞见改进了某个模型,却对下一个模型几乎无参考价值,因为底层设置差异太大。随着时间推移,传播变得比创新本身更困难。
Meta 的广告排序生态恰好撞上了这个问题。随着生产模型的数量随广告优化目标的多样性一同增长,架构、特征、训练设置、服务约束和平台特定逻辑的多样性也随之增长。这种多样性给了团队灵活性,但也带来了三个系统性问题:广泛交付新想法的高工程成本、大量边界情况爆炸带来的高可靠性成本,以及在估算某项变更对整个生态的影响时缺乏可预测性。
更深层的问题在于,碎片化为工程本身制造了一条不利的扩展定律。如果每个想法都必须按模型逐一评估和适配,工作量就会随模型数量线性增长。这在早期尚可管理,但当你拥有大量模型时,就会变成严重的瓶颈。
碎片化还会削弱自动化。AutoML 和优化系统在结构化的空间中效果最好,但当每个模型形状各异时,最具潜力的技术只能触达一部分模型。
我们的答案不是在这种复杂性之上再加一层自动化。相反,我们首先从降低复杂性本身入手。我们通过引入 Standard Model Templates(SMT)来实现这一点,这种方法将模型设计标准化为一套经过筛选的可复用模板。

模板驱动的基础
模板是一种带有明确主张的最小化模型设置,由架构选择、特征逻辑、训练设置和服务配置等共享组件构成。我们不再把每个生产模型维护成一个基本独立的设计,而是将相似的模型归拢到数量更少的标准模板周围。模型特定的逻辑在必要时仍然存在,但公共部分被显式表达并共享。
在实践中,我们使用一小组模板,覆盖不同模型规模下的主要排序与检索模式。这些模板封装了可复用组件,用于特征选择、特征交互、模型并行、训练配置以及硬件感知的服务。
这以一种重要的方式改变了运营模式。我们不再需要在每个模型上独立评估一个新想法,而是可以在一小组更具代表性的模板上评估它,然后将其传播到使用这些模板的模型组。换句话说,我们从按模型迭代转向模板级迭代。
这带来了三个主要优势。
- 降低传播复杂度:共享模板让一次实现可以服务许多下游模型,从而降低大规模交付新想法的成本。
- 提升可靠性:当独特的模型设置更少时,构建更强的验证、更好的护栏以及更可迁移的调试工作流就变得切实可行。训练不稳定或服务回退等问题变得更容易推理,因为它们发生在共享的模板结构中,而不是无界的配置空间里。
- 提升可预测性:当一个组内的模型共享同一模板时,代表性模型上的性能就能更好地指示该组其余模型的表现。这让生态级规划更有依据,也更少依赖假设。
随着时间推移,这种模板驱动的方法不再只是一项标准化工作。它成为更广泛的 ML 开发系统的基础。

SMTs:从标准化到可扩展的技术迁移
转向 SMTs 释放了一项更宏大的能力——将整个生态作为一个单一、连贯的整体进行优化的能力。我们不再管理一组彼此独立的模型,而是开始将这一格局视为一个共享的创新面。
我们不再逐个传播单项技术,而是通过共享模板层,将经过验证的整体模型设计从强源模型迁移到目标模型家族中。这一点很重要,因为许多收益来自架构选择、扩展决策和训练策略之间的相互作用,而不是来自独立应用的孤立组件。
在过去 2 年里,这种方法将单模型工程时间减少了 92%,在我们庞大且多样的模型集合中交付了 5000+ 个技术-模型组合,同时在 neutral serving capacity 下将离线模型质量平均提升 0.63%,并带来了 0.86% 的累计在线提升。更重要的是,它挑战了一个常见假设:多样化的优化目标需要高度多样化的模型设计。在许多情况下,设计良好的共享模板可以比预期泛化得更远。
我们还发现,一旦模型结构实现标准化,扩展决策就变得更具可复用性。我们不必为每个模型分别重新发现成本-性能权衡,而是可以在模板空间中学习它们,并更广泛地应用。这催生了基于 scaling law 的优化工作流,使资源分配更有原则,也更少临时性。
多模型优化
我们使用多模型优化来让模板迭代更严谨。这一过程会在代表性模型上评估候选技术,并搜索能够提升总体性能同时限制回退的配置。
一项平均收益很强但频繁回退的技术,很难在大型模型集合中交付。对于生产规模的传播而言,一致性与峰值提升同样重要。多模型优化在决定一项技术是否准备好集成时,会同时考虑总体性能和回退率。
经过优化后,候选技术会在留出模型上验证,以检查收益是否能迁移到代表性集合之外。通过验证的技术会集成到下一个模板版本中。过去两年,我们通过这一工作流发布了 80 项新的 ML 技术。
结果是复利式的。每个采用成熟模板的模型,继承的是一段泛化改进的历史,而不是从一个孤立的基线开始。
为什么 SMT 对 Agentic ML 系统很重要
Agentic 模型构建通常设想一个端到端的智能体,能够访问工具、训练流水线和评估结果,并在大型设计空间中探索。在实践中,这种方法会遇到一个熟悉的问题:搜索空间约束太少。没有强先验时,智能体会花太多精力探索无产出的区域、从可避免的失败中恢复,或提出难以解释、更难上线的改动。
SMT 有助于解决这个问题,因为它们编码了已知良好的设计模式,这为智能体提供了结构化的起点、有边界的搜索空间和质量下限。与其将模型构建视为自由形式搜索,我们可以将其分解为专门的子问题。
在 Meta,SMT 也是我们多智能体模型构建方法的基础。模板提供结构,智能体提供自适应探索和自动化。在模板层面,智能体帮助构建、评估和改进模板本身。它们基于已验证的技术提出优化想法,在代表性模型上启动实验,诊断失败,并进行多轮迭代,这有助于管理模板开发所需的多日循环。智能体还可以承担更困难的工作,例如将模型迁移到新的硬件平台。以这种方式验证的一项技术会到达由该模板构建的每个模型,而所需算力只是分别适配每个模型的一小部分。我们在文章《Meta 如何使用 AI 智能体将 ML 技术扩展到 Ads Ranking 模型》中对此有更详细的介绍。
SMT 的经验教训与未来道路
将 ML 创新传播开来以改进模型,往往是大型 ML 生态系统中的主要扩展挑战。SMT 之所以成功,是因为随着底层系统变得更有结构,自动化会变得更强大。模板驱动开发不仅让生态系统更容易由人类操作,也让优化系统、扩展工作流和智能体更容易有效推理。
但标准化只有在足够有主见、能够消除不必要多样性,同时仍保留真正重要的有限灵活性时才有效。一个试图容纳所有历史边缘情况的模板系统,最终会重新制造出它本来要解决的碎片化。
在扩大覆盖范围、改进模板覆盖、加强基于 scaling law 的优化,以及迈向完全端到端的智能体工作流方面,还有更多工作要做——包括智能体式模板构建、模型生成、在线评估,以及基于在线信号的持续优化。我们还需要让这些工作流更可靠、更可解释。
但核心思想仍然成立。如果你想让 ML 创新在大型生态系统中扩展,就需要标准化创新落地的表面。换句话说,一次设计、规模化部署不仅是效率策略;它是关于如何让大型 ML 生态系统学习得更快的架构选择。
阅读论文
“一次设计,规模化部署:面向大型模型生态系统的模板驱动 ML 开发。”
致谢
一次设计,规模化部署:构建模板驱动的 ML 生态系统
Aayush Aggarwal, Saurabh Aggarwal, Anuj Bindal, Nakul Camasamudram, Shouyuan Chen, Wenlin Chen, Kevin De Angeli, Jason Flaks, Luc Kien Hang, Rupinder Khandpur, Santanu Kolay, Nhat Le, Swamy Muddu, Sandeep Pandey, Dhiraj Parashar, Akshay Pardeshi, Jingzheng Qin, Shah Rahman, Shiblee Sadik, Munaf Sahaf, Vibha Sinha, Saied Tahaghoghi, Terry Tang, Alireza Vahdatpour, Fangjing Wu, Haoyu Wu, Wendan Yan,以及 Chang Yang。
分享此内容:
- 分享到 Facebook(在新窗口打开) Facebook
- 分享到 Threads(在新窗口打开) Threads
- 分享到 WhatsApp(在新窗口打开) WhatsApp
- 分享到 LinkedIn(在新窗口打开) LinkedIn
- 分享到 Reddit(在新窗口打开) Reddit
- 分享到 X(在新窗口打开) X
- 分享到 Bluesky(在新窗口打开) Bluesky
- 分享到 Mastodon(在新窗口打开) Mastodon
- 分享到 Hacker News(在新窗口打开) Hacker News
- 通过电子邮件将链接发送给朋友(在新窗口打开) Email
阅读更多 ML 应用内容





