
外部精选
软件工程
#开发者实时流团队发布 Flide:面向 Jev 类决策模型的推理引擎,速度最高提升 9.5 倍
来源标题:Show HN: Flide: Make Jev-like decision models up to 9.5x faster
Flide 是一款面向 Jev 类决策模型的高性能精确推理引擎,相比 vLLM 和 SGLang 最高提速 9.5 倍。该引擎目前已支持 30 多个主流本地 Jev 类决策模型,可通过 pip install flide 安装使用。
Hacker News 最新unikcc2026/11/9 · 今天1 分钟阅读
这个来源的 RSS 只提供摘要,下面是原文导语;完整论述请点「打开原文」。
决策模型需要有自己的推理引擎。所以我们开发了 Flide,一个面向类 Jev 决策模型的高性能、精确推理引擎。Flide 相比 vLLM 和 SGLang 最高可实现 9.5 倍的加速。它目前支持 30 多个流行的本地类 Jev 决策模型。立即开始做你的决策:pip install flide 评论 URL:https://news.ycombinator.com/item?id=50421155 点数:1 评论数:0
本条为导读摘要,完整论述请以原文为准。