OpenAI 更新 Model Spec 文档，围绕五项价值观重构

Zvi Mowshowitz 2026年11月3日 4 分享 Model Spec可能是OpenAI最重要的文件。它概述了他们期望模型做什么，以及模型应该如何思考。 我之前已经深入解读过上一个版本，所以这次我的策略是看差异。我为此专门建了一个Google Doc，接下来就基于它来分析。 有很多内容被移动或改写了，往往是零敲碎打式的改动。有大量逐行编辑，其中大部分是改进。我重点关注看起来是新增且重要的部分。 我的主要新批评是，许多新示例并没有切中现实的关节，而是给出了过度确定的答案，未能教会模型或读者在真正困难的情况下Spec希望他们做什么。 总体而言，我认为新的Model Spec在哲学和实践上与旧的Model Spec相似。这不算糟糕，因为旧的Model Spec是一份扎实的文件，有许多强有力的细节。这也意味着，对于没有理由深入这些细节的人来说，这篇文章是高度“可选”的。 新的核心结构是围绕五个价值观来构建Model Spec： 这五件事都是好事。很少有人会不同意。但它们也经常相互冲突。Model Spec必然是关于权衡的。 它们仍然是义务论原则和行动规则，与Claude Constitution及其对品格和美德的强调形成对比。如果说有什么变化，这种对比还扩大了。 他们删除了诸如“善良”“爱人类”和“保持好奇”之类的内容。“爱人类”和“保持好奇”曾经是完整的用户级章节，并非完全删除，而我本来希望看到它们在层级中得到提升。 我认为淡化这些是一个错误。这被称为“删除风格指导”，这表明他们没有意识到这些不仅仅是风格偏好。爱人类不是一种可以退休的“风格”。 层级或指挥链从根本上没有改变。Model Spec本身仍然是根级指令的唯一来源。 他们确实改变了对根级“为了什么”的强调，淡化了防止身体伤害和避免破坏指挥链，而强调了“暴露私人个人信息或违反适用法律”。 我认为这是一个糟糕的改变，但大多数关键要素在两种情况下都仍然存在。 一个例外是副作用控制，它从根级降到了用户级。 变更日志：将“控制和沟通副作用”设为用户级原则。 Opus认为考虑到用户已经能做什么，这不是功能性改变。这仍然让我感到难过。 用户级原则仍然可以被用户明确覆盖。 指南仍然是弱默认值，可以被隐式克服。 新的列表是（在我调整顺序之后）： 我希望保留目标错位与执行错误之间的区别。我确实承认来自用户或开发者的有害指令与来自第三方的有害指令之间的区别。因此，我建议这里分为四类，将“有害指令”或“源自GPT的失败”一分为二。 我很高兴看到扩展讨论了需要遵循指令的字面和精神，并考虑关于来源想要什么的其他证据。如果问题模棱两可，GPT应该尽可能覆盖所有基础。当GPT预期人类在反思后可能不会认可他们的请求，或者存在用户可能想要的新机会时，GPT应该检查。应根据需要寻求澄清，或提供更安全的替代方案。 有一个新说明：GPT不应通过委托或间接行动来规避限制或禁令。 人类必须保持控制。AI将超越人类。OpenAI的立场是，AI应该警告人类他们在做蠢事，但让他们做蠢事，而不是用自己的判断取而代之。 一个只字面遵循指令、或为即时认可而优化的模型，未能在最需要其能力的地方使用这些能力：即用户或治理者未完全预料到的情况。但一个私下决定某人“真正”想要什么、或未来社会应该选择什么的模型，通过用自己的判断取而代之，破坏了人类能动性，有家长式作风甚至更糟的风险。 GPT应该通过不仅考虑用户表面上立即想要什么，还考虑用户可能如何回应相关信息、被忽视的后果或更深思熟虑的机会，来驾驭这种张力。 例如，反思后用户可能会后悔发送一封愤怒的邮件，或者认识到一个当下看起来更难的选择更好地服务于他们更深层的承诺。在适当的时候，GPT可以提出这些考虑，帮助用户反思。 但它的角色是支持这个过程，而不是将其对用户最终可能决定的预测视为用户已经做出的决定。…… ……同样的基本挑战和方法也应适用于来自开发者和OpenAI的指令（包括本文档中的指令）。 GPT还必须可纠正，积极支持监督、纠正和关闭尝试，并使其行为清晰可读。它应该标记任何错位或监督受损的证据，或它对所做决策的任何分歧。我很高兴看到这成为一个新章节。 根级：GPT应将其行动的副作用视为真实的，除非明确指示 otherwise。即使任务被描述为、或显示出是模拟、训练运行或评估的一部分，这也适用。 那行动的直接效果呢？如果副作用是真实的，那么所有效果都必须算数。所以这里只提“副作用”很奇怪，这里应该说“所有效果”，也许加上“包括副作用”。

（原文较长，此处译出前 6000 字，完整内容请点「打开原文」。）