
印度孟买访问多项API延迟高于旧金山,ChatGPT响应慢398毫秒
来源标题:The latency cost of hosting an API in India
从孟买服务器访问20个AI API、开发者API和包注册表中,有12个响应速度比旧金山慢。ChatGPT开始响应慢398毫秒,Stripe API慢118毫秒,crates.io慢1.1秒,其余8个速度相当。DeepSeek从孟买反而快139毫秒,Mistral两地相同。多数变慢服务在建立连接阶段与旧金山相当,延迟主要来自等待响应阶段。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
我们每天从孟买和旧金山对20个AI API、开发者API和包注册表进行计时测试。
从我们位于孟买的服务器来看,20个服务中有12个的响应时间比旧金山更长。ChatGPT开始响应的时间多出398毫秒,Stripe的API多出118毫秒,crates.io多出1.1秒。其余8个服务的响应速度与旧金山相同。
- 对于AI API,计时的是从请求发出到答案开始出现的时间,而非完整响应时间。每日检查截至2026年10月20日,每次均使用新连接。我们的旧金山服务器访问PyPI、jsDelivr和Go module proxy的路径比大多数湾区服务器更长,因此这些服务在旧金山的数据偏高,出于同样原因我们也未将GitHub和Wikipedia纳入统计。两台服务器均位于数据中心;家庭和移动网络连接会带来额外延迟。
五个AI API中有三个从孟买开始响应的时间更晚。DeepSeek从孟买比从旧金山早139毫秒开始响应,Mistral则与旧金山持平。我们的孟买页面列出了从当地测量的每个AI API的排名。
在12个较慢的服务中,有11个从孟买连接服务器仅需2到3毫秒,建立安全连接用时不到12毫秒,与旧金山一样快。时间花在了之后的等待上:Docker Hub为243毫秒对108毫秒,Hugging Face为200对73,Jev为292对75。
那台附近的服务器属于该服务的CDN。它并不持有答案,因此将每个请求转发给服务自身的服务器——那些服务器离旧金山比离孟买更近——然后等待回复。
Stripe的API是唯一一个从第一步就体现出距离差异的案例。从孟买,连接耗时63毫秒,安全连接66毫秒,等待61毫秒:共计三次往返到最近的Stripe服务器,距离约60毫秒。旧金山在同样的每一步上花费22到27毫秒。
crates.io的差距最大,原因是数据体积。它对serde crate的回复约为440 KB。孟买等待首字节用了203毫秒,等待剩余部分用了735毫秒;旧金山则分别为89毫秒和326毫秒。新连接会分批发送大型响应,并等待每一批被确认,因此孟买要反复承受数据来源处的长途往返延迟。
从孟买,发往Coinbase交易所API的请求中有5%超过809毫秒,而旧金山为109毫秒。对于OpenAI的Decisions API,5%的请求超过1,235毫秒,旧金山为344毫秒。
PyPI、jsDelivr、Go module proxy、unpkg、esm.sh和Maven Central对孟买的响应时间为9到33毫秒。它们向所有人提供相同的文件,因此孟买附近的服务器可以保留副本并自行应答。PyPI和crates.io都位于Fastly之后,但从孟买访问,一个只需11毫秒,另一个却要1,555毫秒。等待时间取决于答案存储的位置,身处印度只会在那个位置很远时才让你付出代价。
从孟买、旧金山和另外四个城市快速运行一次检查,看看每个城市的时间花在了哪里。
无需账户。大约需要30秒。
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。