[OpenAI] An updated Model Spec for more capable and beneficial AI

2026年10月29日

安全

更新模型规范，让 AI 更强大、更有益

阅读更新后的规范

随着我们的模型变得更加智能，其在现实世界中采取的行动也带来更深远的影响，模型就越来越不能止步于理解收到的具体指令。模型还需要理解人类的意图和价值观，才能在指令未明确涵盖的情境中作出恰当判断，同时始终忠于人类意图并接受人类监督。

今天，我们更新了模型规范。这份公开文件阐述了我们期望模型如何行事。本次更新围绕五项基本价值观重新组织了规范中的指导原则：忠于人类意图、尽量减少伤害、诚实与透明、人的自主性以及关怀。这体现了我们在价值观对齐方面的一项目标：让模型在陌生情境中也能理解并运用人类价值观，同时始终忠于人类意图。此次修订不仅更清晰地解释了现有原则，还增加了有关上下文、监督和自主性的指导，调整了部分默认行为，并移除了大部分细化的风格指导。

围绕核心价值观组织规范

上述五项价值观明确表达了模型规范中已有的基本承诺：服务于人类的目标、如实表达、尽量减少伤害、尊重人们形成独立观点的自由，以及认真对待他们所处的境况。将这些承诺集中呈现，有助于解释规范为何对模型提出这些行为要求，也有助于我们针对以往表述不够充分的部分制定更清晰的指导。我们一直在通过研究、模型部署经验、公众对规范和模型行为的反馈，以及与用户和外部专家的讨论来完善规范。此次更新是这项工作的又一步。

世界各地的人们有着不同的需求、价值观和对未来的期望，我们希望 AI 能让他们都受益。

忠于人类意图是这一思路的基础：理解什么对人们重要，并帮助他们去追求。OpenAI 编写规范、设定边界，并训练模型遵守这些边界；开发者在这些边界内决定应用如何运作；用户则在这些约束下指挥模型开展工作。我们的模型应帮助人们理解世界、发现可能性并追求自己选择的目标，从而增强人们塑造自身生活的能力，同时认真考虑这些帮助会如何影响他人。忠于人类意图与其余四项价值观共同构成了规范的框架，并指导模型如何应对一些最重要的权衡取舍。它们并不旨在涵盖模型应尊重并帮助人们追求的全部人类价值观。

忠于人类意图，意味着不能仅按字面执行指令，而要深入理解 OpenAI、开发者和用户的意图及其重视的事物，并在理解尚不完整时明智地行事。这也意味着要认识到，人们的信念和价值观可能发生变化，并以他们认可的方式帮助他们反思与成长，而不是暗中引导他们或擅自推翻他们的选择。例如，在帮助用户比较工作邀约时，模型可以参考用户之前提到的优先考虑因素，如工作时间固定，同时明确说明这些假设，让用户能够轻松纠正。

我们的使命是确保通用人工智能造福全人类。这要求我们不仅考虑一个人当下的意图，还要考虑其长远利益以及对他人的影响。其余四项价值观明确了这些考量：

尽量减少伤害，意味着遵守不可逾越的安全边界，并考虑模型行动可能带来的可预见后果。 诚实与透明，意味着如实说明模型知道什么、做了什么，以及对哪些事情尚不确定，让人们能够理解和评估其推理与工作。 促进人的自主性，意味着增强人们自主理解、选择和行动的能力。 关怀，意味着关注受影响者的境况，遵循相关社会规范和专业准则，并提供值得信赖的工作成果。

规范将这些价值观转化为切实可行的指导，在必要之处设立不可逾越的边界，以保护个人和社会；其余内容则大多采用默认规则的形式，允许用户和开发者按需调整。

在更新模型规范的同时，我们也一直在探索新的训练方法，帮助模型学习这些核心价值观，更好地理解并遵循规范中的具体行为原则。目标是让模型理解这些原则为何重要，以及如何在新情境中运用它们：出于正确的理由，做正确的事。我们希望，这种理解能帮助模型在重大决策中作出恰当判断，在日常决策中体现关怀，日积月累，为个人和社会带来持久的益处。我们将在后续更新中分享这项训练工作的成果与经验。

新增与移除的章节

这次重组也帮助我们识别出哪些方面需要补充指导，为此制定新原则，并按需修订或移除现有指导。

新增的“忠于人类意图”一节以这样一个理念为出发点：人们所珍视的事物才是根本，而指令通常是表达这些价值观最清晰、最重要的信号。这一思路借鉴了对齐研究中的辅助博弈框架（参见早期研究和后续综述）。这一节纳入了更新后的指令层级，解释了哪些指令适用，以及如何解决指令冲突。新增的小节审慎考虑上下文阐述了模型应如何根据对话、记忆及其他上下文线索，理解人们的意图和偏好。

我们还增加了关于支持人的自主性和遵循相关社会规范的默认规则，并扩充了有关控制和说明附带影响的现有指导。这些原则进一步明确了其余价值观应如何体现在模型行为中，其中许多细节虽不显眼，却十分重要：在尊重用户目标和指令的同时，考虑工作对他人的影响、增强用户的能力，并提供值得信赖的工作成果。

与此同时，我们移除了规范中大部分细化的风格指导。风格应适应人们的偏好，既要考虑普遍偏好，也要考虑不同语言、文化和个人的偏好，而用户反馈和上下文可以为了解这些偏好提供依据。规范仍保留了约束更强的默认规则，例如客观看待问题。用户和开发者可以明确要求模型采用特定视角，但模型不应仅凭自己对他们想听什么的猜测，就认定他们有这种偏好。

最后，随着模型的使用场景和部署环境日益多样，我们现在在规范中使用“GPT”而非“助手”来指代模型。

下一步

随着模型能力不断增强，我们需要更明确地阐述规范背后的价值观及其依据，此次更新是迈向这一目标的第一步。模型规范描述的是我们努力实现的行为目标；目前，我们的模型尚未完全达到这些要求。我们将持续从研究、实际使用和反馈中汲取经验，不断改进规范和模型。

我们希望听到你的看法：规范的哪些部分令你信服，哪些权衡取舍你并不认同，以及它遗漏了什么、还有哪些地方不够清晰。你对价值观、权衡取舍和具体措辞的反馈，都能帮助我们完善规范。欢迎阅读更新后的模型规范，并分享你的看法。

对齐

作者