返回资讯中心
外部精选
软件工程
#开发者实时流

Shopify 构建生成式发现模型,统一驱动搜索与推荐

来源标题:Shopify's Generative Discovery Model

Shopify 训练并部署了一个共享生成式模型,用于在其海量商品目录上实现个性化搜索和推荐。该模型利用用户的搜索、浏览和购买信号,在实时请求的延迟预算内为每位买家匹配相关商品。其数据覆盖数百万商家的店铺、Shop 应用以及面向对话式商务和 AI agent 的 Catalog API。

Hacker News 最新gmays2026/11/12 · 5 天前30 分钟阅读

以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。

Shopify 的生成式发现模型

我们如何训练并服务一个共享生成式模型,以 Shopify 的规模实现个性化搜索与推荐。

两个人打开手机搜索“背包”。其中一人自从在公交车上把咖啡洒到包上之后,就一直在对比防水笔记本电脑包。另一人则一直在寻找更大的背包,用于穿越科罗拉多落基山脉。

但每位买家浏览过什么、购买过什么,能告诉我们什么对他们重要。我们可以利用这些上下文,个性化他们看到的搜索结果和获得的推荐,让每位买家既能发现熟悉商家的相关产品,也能发现他们此前未曾访问过的商家的相关产品。

数百万参与 Shopify 的商家的商业活动,提供了关于购物者如何跨品类发现和购买产品的洞察;我们的商业生态覆盖众多商家店面、Shop app,以及为对话式商务和 AI agent 设计的 Catalog API。

挑战在于:利用这些搜索、浏览和购买信号,在数十亿商品目录中为每位买家找到相关产品,同时还要满足实时请求的延迟预算。

我们的方法建立在搜索与推荐的共同点之上:两者都利用产品知识和买家上下文来识别相关产品。搜索查询增加了明确意图信号;推荐则更多依赖行为来推断接下来可能有用的内容。这些共享的输入和目标,使它们成为天然适合联合训练的任务。

我们通过一个共享生成式发现模型将这一点付诸实践,该模型在 Shopify 的搜索和推荐数据上联合训练。它为两种体验生成产品候选,目前已部署到生产环境,在离线和在线都带来了显著收益。

本文解释将模型推向生产的产品表示、训练配方和服务决策。

完整方法和实验结果见我们的详细技术报告。

一个开放权重的预训练语言模型提供了起点。其通用世界知识为理解产品描述、属性和买家查询提供了基础。然后,我们使用 Shopify 可为此目的使用的商业数据来适配模型,包括我们的产品目录,以及搜索和推荐中符合条件的买家交互。

为评估模型,我们在线衡量买家结果,离线衡量检索质量。

对于推荐,加入生成式模型后在 Shop 首页信息流上带来了以下在线收益:

在离线评估中,生成式模型为推荐生产系统贡献了 2.65pp 的 Incremental Pool Recall。它也是我们最强的独立候选生成器。

对于搜索,该模型自身就具备很强的质量,并进一步提升了生产系统,OneDCG@10 总体提升 2.1 分。对于已登录用户,模型可以个性化买家结果,带来 OneDCG@10 提升 2.7 分,其中 25% 的查询在前 10 相关性上净提升。

OneDCG@10 是 NDCG 的一种变体,用于衡量前十个结果的搜索质量。它以十个完美结果作为归一化基准,而不是每个查询的理想排序,从而为所有查询提供相同的参照点。

这些结果依赖于产品表示、训练和服务方面的决策。我们将逐一介绍每项决策,先从模型表示产品的一种实用方式开始。

Shopify 的目录包含数十亿产品。原始产品 ID 区分的是数据库记录,但其数字不携带任何产品信息。将每个产品视为独立输出会创建一个拥有数十亿条目的词表,每个条目都需要学习自己的表示。许多产品的训练样本稀疏,独立学习每个 ID 的有用表示效率很低。

我们此前关于生成式推荐的博文概述了下一步:将产品表示为文本之外的 semantic-ID token。我们沿着这个方向,将产品内容编码为 embedding,即产品的向量表示。tokenizer 将该 embedding 转换为 semantic ID:一段模型可以学习和生成的短离散代码序列。

我们评估了 RQ-VAE 和 RQ-KMeans 这两种常见的 tokenizer 方法,并选择 RQ-KMeans,因为它在相同 codebook 形状下产生了更好的下游性能。RQ-KMeans 对产品 embedding 聚类,减去选中的聚类中心,并对剩余残差重复这一过程。每一层捕获前一层留下的信息。我们选定的配置使用三个 codebook,每个包含 8,192 个条目,为每个产品生成一个三 token 的 semantic ID。

相关产品可以共享代码,使其训练样本能够更新共享表示。这让交互很少的产品也能通过训练其邻居而受益。

一个真实的目录示例可以更直观地说明这一点。

共享前缀 [6001] 的产品包括各种款式和面料的马甲和背心。沿一个分支,[6001, 5561] 将不同颜色的加厚马甲分组,[6001, 5561, 0] 则缩小到灰色加厚设计。第二个分支 [6001, 4551] 将工装风格马甲分组;[6001, 4551, 879] 包含靛蓝牛仔背心。

多个产品可以共享相同的完整代码序列。我们探索了多种在服务时解决这些冲突的方法,包括在将 semantic ID 映射回产品时利用产品流行度的轻量级排序步骤。我们的技术报告更详细地介绍了这些方法。

我们的训练配方将商业知识构建进预训练语言模型:将 semantic ID 与产品含义连接起来,从买家旅程中学习,为每个任务细化预测,并将专门专家带回一个共享模型。图 4 概述了这些阶段。

在开发这一配方的过程中,我们总结了四条关键经验。

(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)

正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。

打开原文
去社区讨论 →