Meta公布智能广告投放系统，额外提升约10%广告排名效果

随着前沿广告排名系统朝着更大规模的模型、更广泛的候选集和更丰富的投放架构发展，它们对服务效率也提出了更高的要求。计算资源的扩展速度跟不上模型和系统复杂度的增长速度。挑战不仅在于如何构建更强大的模型，更在于如何在异构系统中、在有限的服务容量下、在严格的延迟预算内高效地运行这些模型。我们最近分享了如何利用闲置推理容量。本文将介绍我们如何决定每一单位计算资源的去向，以实现全局最优的系统效率。

Intelligent Delivery 是我们应对这一问题的方案。从 2017 年到 2026 年上半年，在模型和系统进步的基础上，它为主要广告场景的排名性能额外贡献了约 10% 的提升。它引入了一个由 ML 驱动、日益由 AI 运营的自适应优化层，持续将资源导向边际效用最高的请求、模型、硬件集群和排名阶段。这帮助我们在生产环境中高效运行先进的广告排名模型，让每一单位计算资源发挥更大价值，为用户提供更好的广告体验。

我们的目标之一是构建一个投放系统，无论用户行为如何变化、模型如何演进、服务栈如何变得复杂，它都能持续收敛到全局最优。

广告投放系统的三个基本特性使这一目标充满挑战：

计算资源的边际影响高度异质且依赖上下文：同样的额外一单位计算资源，可能因产品场景、用户意图、候选质量和系统状态的不同而产生截然不同的回报。仅靠请求感知信号是不够的；要做好分配，意味着对每个请求估算每一个可调系统参数的回报，而每个参数在漏斗的每个阶段表现各不相同。我们需要在毫秒级时间内，在庞大的决策空间中为每个请求生成结果计算。

局部最优不等于全局最优：结果估算只是起点；服务栈还必须具备动态可控性。广告投放横跨多阶段排名、数百个模型、多代硬件和众多数据中心。如果没有考虑整个栈中复杂依赖关系的自适应控制，资源就无法在这些边界之间自由而可靠地转移。

全局最优是一个移动的目标：优化景观在持续变化。每一个新模型、新一代硬件或新架构都会改变这一景观，并可能使此前的最优分配决策失效。系统需要足够快地适应，以保持其最优性。

Intelligent Delivery 包含三项能力，每项能力针对上述一个基本系统挑战而设计。

有些广告请求从额外计算中获益更多。起初，我们通过粗粒度分群来捕捉这些差异：按场景、上下文和广告创意表征等属性对请求进行分组，由工程师为每个分组制定资源分配策略。这种方法带来了改善，但无法扩展。每新增一个信号就会使规则成倍增加，使工作难以为继；而且独立的分群无法捕捉数千个信号之间的非线性交互，限制了准确性。

我们将这一问题重新定义为两个 ML 问题后，在主要场景的离线基准测试中，识别高影响广告请求的能力相比之前的生产模型提升了约 20%：哪些广告请求最有可能从额外计算中获益？不同的资源配置将如何影响它们的结果和投放性能？

为了回答第一个问题，我们构建了 Resource Core Model——拥有 60 亿稀疏参数和 2000 万稠密参数的深度学习模型，在候选检索之前运行一次，并在整个投放漏斗中共享。学习到的嵌入和深层特征交互能够捕捉人工定义分群无法捕捉的细微请求模式。

随后，我们将 Resource Core Model 微调为一组专用模型，每个模型生成关于结果、计算消耗和延迟影响的增量信号。这共同构成了一个用于资源分配的共享 ML 智能层：Resource Core Model 理解每个请求及其服务行为，而各个机制则决定如何将这些预测转化为行动。

广告投放运行在一个全球分布、异构的集群上，包含众多数据中心区域、几代硬件和数百万台主机，全部由多层服务栈共享。单一分配机制无法端到端地控制复杂的资源分布。因此我们将问题分解为分层结构，并为每一层构建了专门的决策引擎。理解这一分层结构最直观的方式，是跟随一个请求走完整个流程。

有人打开了自己的信息流。一个广告请求被创建，在接下来的几百毫秒内，它经历一连串资源分配决策。这引出了三个重要问题及答案。

哪个区域来服务它？流量和容量并不位于同一地点，每个区域拥有不同的硬件组合和不同的余量——因此同一单位计算在某些地方比其他地方更高效。我们构建了实时基础设施，以分钟级的周期在区域之间动态转移流量，推动每个区域在其边际容量单位上达到相同的效率水平。

（原文较长，此处译出前 6000 字，完整内容请点「打开原文」。）