
Alchemy Inference 上线,支持 Kimi、GLM 和 DeepSeek 模型推理
来源标题:More daily API calls than Google searches, now applied to LLM inference
Alchemy Inference 开始提供 Kimi、GLM 和 DeepSeek 模型的推理服务,主打低延迟、高吞吐和零数据保留。官方称其基础设施每日处理 500 亿次请求,支撑每年超 1 万亿美元交易,并将以同等延迟和可用性标准服务 LLM 推理。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
Kimi、GLM 和 DeepSeek 模型现已上线。低延迟。高吞吐。零数据留存。
你的应用 智能体、工作流与后台任务
Alchemy Inference 开放权重模型服务 基于 token 的 API 无服务器,按用量计费
专属部署 指定模型与容量
开放权重模型 统一接入目标 由值得信赖的基础设施驱动
围绕你的 AI 需要完成的工作来构建。 低廉的 token 价格只是等式的一部分。质量、重试、响应时间和部署选择都会影响应用的运行成本。 我们正在打造质量、速度与成本之间的恰当平衡——从实时智能体到后台任务。 每完成一项任务的成本 工作负载级评估 服务效率 部署经济性
02 · 控制 我们正在设计清晰的配置、可验证的质量,以及受控且有计划的更新。 我们每天已经处理 500 亿次请求,每年支撑超过 1 万亿美元的交易——我们正让 Alchemy Inference 在延迟和正常运行时间上达到同样的标准。 Alchemy Inference 同一团队,同一标准 延迟 正常运行时间 经过验证的基础设施 延迟标准 正常运行时间标准
两种运行方式。一个关注点:你的工作负载。 共享服务 按用量计费 基于 token 的 API 以无服务器方式访问 Kimi、GLM 和 DeepSeek 模型,按用量计费。 适合希望获得 API 访问能力、但不想自己运维模型部署的团队。 你的模型 你的容量 专属部署 针对特定模型、容量和基础设施需求的部署。 适合需要特定模型,或希望对模型的运行方式和运行位置拥有更多控制权的团队。 需要特定模型或专属容量?立即开始,并在你的控制台中申请专属部署。 通过量身定制的部署和跨成本、速度与质量的性能测试,从每个模型中获得更多收益。选择一个开始吧。 Alchemy Inference 以零数据留存(ZDR)方式运行。
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。