算力与基础设施核心
低成本上线:模型路由、缓存与上下文治理
15:20 - 16:20A 厅2026/3/10
演讲摘要
不换卡也能降成本的三类工程策略,以及它们的适用边界。
对比不同模型路由、缓存命中和上下文裁剪方案在吞吐与成本上的真实收益。
演讲嘉宾
David Chen
算力架构师
关注推理服务、成本治理与 AI 基础设施的长期演进。
活动已结束或停止报名。查看活动详情
不换卡也能降成本的三类工程策略,以及它们的适用边界。
对比不同模型路由、缓存命中和上下文裁剪方案在吞吐与成本上的真实收益。
关注推理服务、成本治理与 AI 基础设施的长期演进。
活动已结束或停止报名。查看活动详情