
Uber Eats重建搜索流水线,端到端延迟降低50%
这项工作始于对主要延迟指标的调整。优步不再仅仅关注后端 API 的响应时间,而是开始测量“首屏渲染完成时间”(Above-the-Fold completion),即从发起请求到首屏结果连同图片完整渲染出来的时间。通过服务端缓存实现分页,缩短了初始响应时间。同时,异步渲染机制允许并发处理结果项。优步报告称,这些改进使首屏渲染延迟降低了 200 毫秒以上。
以下正文同步自 InfoQ 中国,版权归原站所有,已转换为易读排版。
这项工作始于对主要延迟指标的调整。优步不再仅仅关注后端 API 的响应时间,而是开始测量“首屏渲染完成时间”(Above-the-Fold completion),即从发起请求到首屏结果连同图片完整渲染出来的时间。通过服务端缓存实现分页,缩短了初始响应时间。同时,异步渲染机制允许并发处理结果项。优步报告称,这些改进使首屏渲染延迟降低了 200 毫秒以上。
这一系列工作引起了公开讨论该项目的工程师们的广泛关注。Anubhooti Nagar将这一性能挑战总结为:
测量、识别、修复、验证(Measure, Identify, Fix, Validate)循环,认为这是持续性能优化的典范。
Vidya Pandey将这些改动提炼为三大原则:减少工作量、尽早开始处理、移除不必要的依赖。Pandey 还将优步计划采用的微批处理(microbatching)方法与 AI 系统中用于减少处理阶段之间同步等待的技术联系了起来。
此次改进建立在优步现有搜索平台的基础之上。此前的资料显示,该平台采用了 Apache Lucene、基于 Spark 的索引、基于 Kafka 的流式更新以及分布式服务层。InfoQ此前对优步搜索架构的报道,也为该平台早期的索引和查询执行工作提供了更多背景信息。
目前,优步正在探索端到端微批处理、基于产品的检索、零遍历排序(Zero Pass Ranking)以及 HTTP 多部分流式传输(multipart streaming)。该公司报告称,早期基于产品的检索测试已使 p99 延迟降低了 50%以上。这些计划中的改动允许各个处理阶段相互重叠,从而无需等待前序阶段全部完成。
查看英文原文:Uber Eats Rebuilds Search Pipeline to Cut End-to-End Latency by 50%
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。