Jev的5个免费开源替代模型盘点

“不是每个 AI 任务都需要完整的语言模型响应。”

有时，你只需要模型选出一个选项、给出一个分数，或者判断某件事是否成立。人们用“决策模型”来称呼这类模型。Jev 就是这一类别中的模型之一，它通过 Choice、Score 和 Noul 函数提供带置信度分数的结构化决策。

然而，Jev 是专有模型，所以如果你想在本地运行模型或用自己的数据微调，这里有 5 个免费的开源替代方案值得一试。我知道 Jev 也相当便宜，但这些方案能让你对自己的配置有更多控制。那么，我们开始吧！

Mammoth-1 是由 Baseten 的 Base Labs 开发的 27B 参数决策模型，基于 Qwen3.5-27B 构建。在 Baseten 发布的 Jev Decision Index 0.4 评测中，Mammoth-1 得分 71.24，超过了 Perplexity Decider v1.2（69.42）和 Jev 1.14（62.2）。这使它成为文档分类、候选答案排序以及将请求路由到正确 agent 等任务的好选择。它支持文本和图像，并可在 MIT 许可证下自托管。但请记住，27B 模型需要大量硬件。

vLLM Semantic Router D3 有多种规模，从 0.6B 到 27B 参数不等。它支持文本、图像和视频，返回应用程序可直接使用的概率分布。如果你在构建 AI agent，需要决定由哪个模型、工具或工作流来处理请求，D3 会很有用。较小的变体，如 D3-Mini 和 D3-Flash，在 GPU 资源有限时也为你提供了选择。你可以通过 vLLM 的 System One 端点本地提供这些模型。

Perplexity pplx-decider v1.2 是一个基于 Qwen3.8 构建的 27B 决策模型。它支持分类、候选评分和置信度估计。其联合问题处理让你可以一起评估关于同一输入的多个问题，这在构建分类流水线或比较多个候选时很有用。该模型在 Apache 2.0 下发布，不过你需要通过认证才能访问其 Hugging Face 仓库。和 Mammoth-1 一样，它是一个较大的模型，所以在本地部署前要考虑 GPU 显存。

H2O-Lightning-4B 是一个紧凑的决策模型，只有 4B 参数。对于简单的决策，你并不总是需要大模型。对于支持工单分类、文档处理和请求路由等任务，H2O-Lightning-4B 值得测试，尤其是当你希望部署要求可控时。它还有 GGUF 权重，可用于本地推理实验。该模型在 Apache 2.0 下发布。

Kev 是 Jev 最接近的开源替代品之一。它基于 Qwen 模型构建，提供从 0.8B 到 27B 参数不等的四种规模。它支持是/否决策、多项选择和带校准概率的数值评分。Kev 还提供与 Jev 兼容的 API，让开发者可以在本地托管的模型上使用 TypeSafe Python SDK。你可以用自己的标注数据微调其模型，而且 Kev 也在 Apache 2.0 下发布。

Jev 还有其他开源替代品，但我选了这五个，因为它们各有不同。Mammoth-1 和 Perplexity Decider v1.2 值得为准确性而探索，D3 适合多模态任务，H2O-Lightning-4B 适合较小规模的部署，Kev 适合定制化。

还有其他不错的选择，比如 Laya 和 Cloudflare Clef。另外，请记住，免费的模型权重并不能消除计算成本。而且，一个模型在基准测试上表现好，并不意味着它就是你的应用的最佳选择。在选择之前，请在你自己的数据上测试，并检查其许可证和部署要求。你可能会发现，轻量级决策模型正是你的应用实际需要的全部。