
Cloudflare 开源面向 AI 智能体的决策模型 Clef
在近期的“生日周”活动中,Cloudflare 发布了 Clef,这是一组开源权重 AI 模型,用于在预设选项之间做出选择,而不是生成文本。Cloudflare 发布了 90 亿参数和 270 亿参数版本的模型,以及一个将它们适配到特定决策任务的平台。
以下正文同步自 InfoQ 中国,版权归原站所有,已转换为易读排版。
在近期的“生日周”活动中,Cloudflare 发布了 Clef,这是一组开源权重 AI 模型,用于在预设选项之间做出选择,而不是生成文本。Cloudflare 发布了 90 亿参数和 270 亿参数版本的模型,以及一个将它们适配到特定决策任务的平台。
Clef 是一款 270 亿参数的多模态模型,它接收状态和带类型问题的 Schema 作为输入,并输出决策结果。它可以处理文本、JSON、图像或视频,只需一次前向推理就能返回针对每个问题的所有可选项对应的概率,无需生成自由文本或解析输出。
决策模型对输入进行分类,输出附带概率的类型化结果,AI 智能体可以利用这些结果来决定后续动作,例如分配客服工单、升级工单,或是将决策交由人工处理。Cloudflare 的 API 兼容 Typesafe AI 的 Jev System One 模型。
Cloudflare 产品组经理 Michelle Chen、首席机器学习工程师 Alex Reneau 和高级工程经理 Kevin Flansburg 写道:
由于模型托管在 Cloudflare 的基础设施上,我们可以利用边缘 GPU 实现较低的网络延迟和更快的决策。这意味着你可以把 Clef 放在智能体决策的核心路径中,并将其与 Workers AI 上的某个 LLM 结合起来执行后续操作。
Cloudflare 还发布了 Clef-Flash,这是一款更小的 90 亿参数多模态模型,专为对延迟敏感的决策场景而设计。在 Cloudflare 的基准测试中,它的中位延迟为 38.8 毫秒,而 270 亿参数的 Clef 模型为 209.3 毫秒。Chen、Reneau 和 Flansburg 解释了 Clef 与其他决策模型的不同之处:
首先,它有一个视觉编码器,因此能够接收图像并对视觉内容进行分类。这与 Jev 不同,后者目前只做文本分类。其次,我们的模型拥有 64k 的上下文窗口(而 Jev 为 32k),这使用户能够塞入更多输入状态供模型做分类判断。
在 Hacker News 的一个热门讨论帖中,社区围绕决策模型、延迟、开源权重,以及这是否属于全新模型品类展开了讨论。Jacek Złydach 评论道:
这不是什么“新范式”,而是一个多年来摆在那里的易得成果;Typesafe 是第一个愿意停下来摘取它的人,并把它大肆营销了一番。
公开基准很容易做手脚。如果我是 Typesafe,我同样会发布公开基准,以此转移专业人员的注意力,让大家一味去拟合基准,而不是去做真正有用的东西。
Cloudflare 计划针对客服工单分级、机器人识别等场景对 Clef 进行微调,利用自身历史标注数据提升模型准确率与速度。在 Reddit 上,用户 bugra_sa 留言道:
相比原始准确率分数,我更关心 Clef 是否知道何时该放弃判断。用那些误报代价比漏报高得多的案例对它进行测试,然后对数据进行足够大的改动,观察它的置信度何时崩溃。如果它在这种情况下仍保持高置信度,那基准测试数字就没有太大意义。
Cloudflare 还发布了一项微调服务,客户可以使用自有数据对 Clef 进行适配;初期由 Cloudflare 工程师提供支持,自助服务平台计划后续上线,暂未公布确切日期。
Cloudflare 已通过 Workers AI 提供 Clef 模型,并在 Hugging Face 上提供可下载的权重,邀请开发者进行试验并提供反馈。
查看英文原文:https://www.infoq.com/news/2026/10/clef-decision-models/
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。