探HOW CONTENT DESK

资讯与观察· 工程实践

AI 行业动态、工程实践、产品方法和社区故事。

云计算
编辑精选

GKE Pod 快照可缩短模型加载时间

谷歌发布 GKE Pod 快照基准测试,启动延迟最高降低 89%:700 亿参数模型加载仅需 37 秒,80 亿参数模型仅需 15 秒。该功能可保存工作负载运行状态(含 CPU 和 GPU 内存)并按需恢复,已于今年 5 月在 1.35.3-gke.1234000 及更高版本集群正式发布。

InfoQ 中国10/107 分钟阅读站内导读

LATEST STORIES

最新内容

共 4 篇