
Jev 101 提出借鉴人类双系统思维的新一类模型
来源标题:Jev 101 – A New Class of Model
Jev 101 提出一种借鉴卡尼曼「系统1/系统2」理论的新模型类别,主张当前 LLM 均属慢速理性的系统2,而生产环境大量任务需要快速判断的系统1能力。文章指出 Claude、ChatGPT、Gemini、Grok 等主流模型都按提示系统性推理,擅长长文生成与复杂问题。
以下正文由 AI 翻译自 Hacker News 最新(原文版权归原站所有),可能存在偏差,重要内容请以原文为准。
在2011年那本开创性的著作《思考,快与慢》中,Daniel Kahneman提出了一个观点:人的大脑有两种不同的思维模式,他称之为系统1和系统2。系统1是自动驾驶模式:快速、自动、本能、毫不费力。它在后台持续运行并做出判断:他看起来生气了、路堵了、这听起来不对劲,等等。
系统2则恰恰相反。缓慢、深思熟虑、理性。它遵循规则、进行计算、能够自我解释,并且专注投入。可惜的是,注意力是有限的,而系统2又很懒惰,所以它常常跟随系统1的引导。
当前这一代LLM,比如Claude、ChatGPT、Gemini、Grok等,完全属于系统2的范畴。它们系统地处理prompt,弄清楚该输出什么。它们擅长生成长篇文本、解决复杂问题、跨多种语言翻译,等等。它们恰好契合系统2这一类别。
尽管有这些优势,生产环境中许多利用LLM的pipeline却围绕快速决策展开。这张工单该由哪个团队处理?这段摘要是否正确?该调用哪个工具?这些都是系统1类型的问题。
几周前,也就是2026年9月15日,Typesafe AI发布了Jev,这是首个系统1 AI模型。Jev是一个判别式模型(而非生成式模型),专门用于快速、准确地生成结构化答案。它不处理prompt,而是处理一个State和一组Questions,并为每个问题的不同可能答案生成一个概率分布。它连两个词都串不起来,但它能快速且廉价地做出决策。每百万输入token收费$0.042,输出免费,且能在不到一秒内生成。
Claude Opus 5.5在一周后发布,每百万输入token收费$4,一百万输出token要花你$20,而且无法关闭思考功能。彻头彻尾的系统2。
两种模型都只需一次API调用,所以问题就变成了:什么时候该用哪一个?本文介绍如何使用Jev,下一篇将对Jev和Claude进行正面比较。敬请期待!
与逐token生成输出的LLM不同,Jev一次性生成整个输出。你用一个State JSON对象(也可以使用字符串或数组)以及一组带类型的Questions来调用Jev。然后Jev并行地为每个问题的每个答案打分。共有三种类型的问题,对应三种不同的专用输出:
Choice——为每个选项返回一个概率(最多255个),并选出最佳的一个。 Score——将state置于2到10个层级的有序量表上。 Noul——返回某个陈述为True的概率。
Jev使用Reinforcement Learning for Calibrated Decisions进行训练,据Typesafe称,这能保证输出的概率得到恰当校准:总体而言,当Jev说概率为0.8时,它(据称)有80%的时候是对的。
官方Jev SDK是typesafe_sdk,使用起来相当直接。用API key实例化一个TypeSafeClient类,会得到一个带有system_one()方法的对象,这是与Jev交互的主要方式。
import os from typesafe_sdk import TypeSafeClient, Noul client = TypeSafeClient(api_key=os.environ["TYPESAFE_API_KEY"]) r = client.system_one( model="jev-latest", state="Hi, I was charged twice for the same order. Can I get my money back?", questions={"refund": Noul(instructions="Is the customer asking for money back?")}, ) print(r.answers["refund"].noul) # probability of "yes", e.g. 0.98 print(r.model, r.usage.input_tokens) # e.g. jev-1.14.0 305
三个必需参数是:我们要使用的模型版本、state,以及我们想要得到答案的问题集合。问题以字典形式提供,每个值都是Noul、Choice或Score对象的实例。每种问题类型的使用方式略有不同,返回的值集也不同。每个问题的答案可以在system_one()返回的SystemOneResponse对象的answers字典中找到。
Noul类型的问题(巧妙地以Ber-noul-li试验命名)会生成一个概率值,量化该问题答案为True的可能性。
query = ("Hello- It is urgent I get a refund on this product. The merchant has not been " "helpful, what can I do now to get this resolved ASAP?") r = client.system_one( state=query, questions={"refund": Noul(instructions="Is the customer asking for money back?")}, model="jev-latest", # pin "jev-1.14" once you tune thresholds ) r.answers["refund"].noul # 0.98 r.usage.input_tokens # 305, for $0.0000128 r.model # 'jev-1.14.0'
当两种可能输出(True或False)之间的界限不清晰时,我们可以通过criteria参数向模型提供更多信息:
Noul( instructions="Is the customer asking for money back?", criteria={"true": "The customer wants a refund, credit, or reversal", "false": "The customer wants information, or a fix to something broken"}, )
与经典LLM不同,没有其他参数需要设置:没有temperature、system prompt、few-shot示例等等。
当你的问题有不止两个可能答案时,可以使用Choice问题类型,在其中指定任意类别,以及用于决定如何在它们之间选择的criteria。每个类别由一个唯一的字典键标识,这既用于建立决策标准,也用于识别哪个概率对应哪个组。
GROUPS = { "cards": "Anything about a physical or virtual card: ordering, delivery, activation, loss, or a card being declined", "transfers": "Sending or receiving money, including transfers that failed or have not arrived", "fees_and_refunds": "Charges, fees, exchange rates, refunds, and reversals",
(原文较长,此处译出前 6000 字,完整内容请点「打开原文」。)
正文由 探How 从来源站点 RSS 同步,内容未经改写;遇到排版缺失或需要图片、视频时请以原文为准。