Perplexity发布开源权重决策模型Decider v1.3，新增Locate功能

Perplexity 发布了 pplx-decider-v1.3 和 pplx-decider-flash-v1.3，这是其开放权重决策模型的最新版本。Perplexity Decider v1.3 是一个决策模型，返回概率而不是生成文本。它针对文本或图像输入回答是/否、多项选择和评分问题。主要新增功能是 Locate，它按类型或指令提取精确的文本片段。权重以 Apache 2.0 许可在 Hugging Face 上发布。两个模型也可在 Perplexity Decisions API 和 OpenRouter 上运行。你可以通过我们的 GPULeaderboard.com chrome 扩展查看部署选项和规格。

摘要

• 规模：基于 Qwen3.8-27B 的 27B；Flash 是基于 Qwen3.5-4B 的 4B。Hugging Face 列出 26B 和 5B 参数。API 输入：低于 256K token。本地默认：32,768。
• 运行于：可容纳约 49 GiB BF16 权重（v1.3）或约 8.5 GiB（Flash）的 CUDA GPU。无量化变体。
• 性能：在 Perplexity 自报的大多数评估中领先 TypeSafe 的 Jev 1.14。
• 最佳：在 63 个查询分类任务上平均准确率 91.6%。
• 最差：Locate 平均 69.0，是其最低绝对分数。Flash 在金融、编程和法律领域落后于 Jev 1.14。
• 结论：最佳：0.27% 的答案翻转率和每 100 万次生产请求 $26.47。最差：所有数字均为自报。

什么是 Perplexity Decider v1.3？

Decider 是 Perplexity 的决策模型系列，受 TypeSafe 的 Jev 启发。每个请求有一个共享的“状态”加上一个或多个带标签选项的问题。模型返回每个选项的概率，而不是写出答案。v1.3 接替 v1.2 和 Flash v1.2。Flash v1.3 是从大模型蒸馏而来。

Decider v1.3 如何工作？

Perplexity 将生成式 LLM 主干适配为分类器。输出层从基础模型的 LM head 开始，修剪为选项 token（A、B、C）。一个线性决策头读取某个 token 处的隐藏状态并输出选项概率。 全注意力层被改为双向，Perplexity 的消融实验表明这有帮助。 v1.3 还改变了问题之间的注意力。在 v1.2 中，每个问题都能看到其他所有问题，因此答案可能偏移。在 v1.3 中，状态能看到所有问题，但每个问题只能看到状态和自身。关于一个输入的所有问题仍在单次前向传播中运行。 训练分 3 个阶段进行：

• 在数百个公开数据集上进行全量微调
• 一个 LoRA 专业化适配器
• 一个 LoRA 视觉适配器 权重在 3 个随机种子上平均。Flash 通过最小化与大模型输出的 KL 散度来训练。

新的 Locate 功能做什么？

Locate 返回带有起始和结束字符偏移量的精确文本片段。字段可以是短标签（“location”）或指令（“提取工作所在的城市名称。”）。它面向 NER、PII 检测和抽取式 QA。 每个请求的字段添加一个新 token。训练一个片段头加一个 LoRA 适配器，而主干和决策头保持冻结。适配器保持未合并，因为合并会损害决策准确率。

Decider v1.3 在基准测试上表现如何？

以下所有结果均由 Perplexity 自报：

• 查询分类（63 个任务）：平均准确率 91.6%，比生产分类器高 6.54 分。
• 领域分类：在所有 7 个领域领先 Jev 1.14，金融领域最多领先 12.9 分。
• 检索和重排序（72 个任务）：平均 nDCG@10 为 83.99。比 Qwen3-Reranker-8B 高 1.81，比 Jev 1.14 高 2.24。
• 多语言（19 个任务，8 种语言）：v1.3 为 88.16%，Flash 为 86.50%，Jev 1.14 为 85.41%。
• Locate（17 个域外任务）：v1.3 平均 69.0，Flash 为 63.6。Liquid d1 得分 43.3，GLiNER large v2.5 得分 33.6。
• 图像分类（5 个任务）：v1.3 为 76.99%，比 Jev 1.14 高 1.47 分。Flash 为 72.77%。
• 真实请求（100 万请求，2,318,887 个问题）：与前沿 LLM 评判员一致率 93.98%。Jev 1.14 为 93.35%。
• 鲁棒性：在重排序或重标签变换上答案翻转率 0.27%。Jev 1.14 翻转率为 2.69% 至 4.84%。

Decider v1.3 与 Jev 1.14 和 Qwen3-Reranker-8B 相比如何？

特性Decider v1.3Decider Flash v1.3Jev 1.14Qwen3-Reranker-8B 规模文档称 27B（HF 列出 26B）文档称 4B（HF 列出 5B）未披露8B 上下文API 低于 256K；本地默认 32,768API 低于 256K；本地默认 32,768262,14432K 许可证Apache 2.0Apache 2.0未披露（托管 API）Apache 2.0 模态文本、图像、Locate（仅文本）文本、图像、Locate（仅文本）文本、图像文本 硬件约 49 GiB BF16 权重 + 工作内存约 8.5 GiB BF16 权重 + 工作内存仅托管未披露 价格$0.02 / 100 万输入，输出免费$0.01 / 100 万输入，输出免费$0.042 / 100 万输入，输出免费开放权重，自托管 检索 nDCG@10（72 个任务）83.99未披露81.75（根据报告的 2.24 差距推导）82.18（根据报告的 1.81 差距推导） 多语言准确率（19 个任务）88.16%86.50%85.41%未报告 评判一致率（100 万请求）93.98%未披露93.35%未报告 100 万请求成本$26.47$13.24$68.10未报告 基准行是 Perplexity 在其发布帖子中自报的数字。

开发者如何部署 Decider v1.3？

API 端点是 POST https://api.perplexity.ai/v1/decisions。模型 ID 是 pplx-decider-v1.3 和 pplx-decider-flash-v1.3，带有 -latest 别名。价格为每 100 万输入 token $0.02 和 $0.01。输出免费。 Perplexity 的延迟测试显示，约 243K token 的请求在 v1.3 上耗时 16 秒，在 Flash 上耗时 5 秒。Locate 请求最多允许 128 个问题。 本地使用时，通过 pplx_decider 包中的 Decider.from_pretrained() 加载模型。全注意力层必须以非因果方式运行。Perplexity 建议 v1.3 用于细微评分标准，Flash 用于高吞吐路由。

关键要点

• Decider v1.3 为分类和评分返回概率而非文本。
• 新的 Locate 为 NER、PII 和抽取式 QA 提取精确片段。
• v1.3 在 63 个查询分类任务上得分 91.6%（自报）。
• API 价格为每 100 万输入 token $0.02（v1.3）和 $0.01（Flash）。
• 权重为 Apache 2.0；v1.3 需要约 49 GiB，Flash 约 8.5 GiB。

（原文较长，此处译出前 6000 字，完整内容请点「打开原文」。）