发布日期

OpenAI 更新 Model Spec:以五价值观重组行为指引

OpenAI 于 2026 年 10 月 29 日更新公开 Model Spec,围绕忠实人类意图、伤害最小化、诚实与透明、人类能动性与关怀五价值观重组指引,并补充情境、监督与能动性相关默认;同时退役大部分细粒度文风规定。官方称 Spec 描述其追求的行为,现有模型尚未完全体现。

An updated Model Spec for more capable and beneficial AI 标题卡
OpenAI 官方分享卡:更新 Model Spec,面向更有能力且更有益的 AI。

OpenAI 于 2026 年 10 月 29 日发布《An updated Model Spec for more capable and beneficial AI》。官方称随着模型更聪明、在现实中采取更有后果的行动,模型需要在具体指令之外理解人类意图与价值观,以便在指令未明确覆盖的情形下仍保持良好判断并忠实于人类意图与监督。本次更新将指引重组为五项底层价值观:忠实于人类意图(faithfulness to human intent)、伤害最小化、诚实与透明、人类能动性(human agency)、关怀(care)。

官方称:忠实人类意图是基础——理解并帮助人们追求对其重要之事;OpenAI 撰写 Spec、设定边界并训练模型尊重边界,开发者在边界内指导应用,用户在约束下指导模型工作。伤害最小化包括尊重硬安全边界并考虑可预见后果;诚实透明指如实说明模型所知、所做与不确定之处;促进人类能动性指增强人们理解、选择与自行行动的能力;关怀指关注受影响者处境、遵循相关社会与职业规范、交付可依赖的工作。Spec 将价值观落到实践指引:必要时设硬边界,其余多为用户与开发者可覆盖的默认。

结构变化上,官方称新设「忠实人类意图」章节,纳入更新后的指挥链(chain of command)与「仔细考虑情境」(consider context carefully)小节;新增支持人类能动性、遵循相关社会规范等默认,并扩展关于控制与沟通副作用的指引;同时退役大部分详细文风指引,称文风应随偏好调整,但仍保留如客观处理问题等更强默认。模型称谓由「the assistant」改为「GPT」。官方明确:Model Spec 描述其正在追求的行为,模型尚未完全体现该 Spec,并欢迎对更新后的 Spec 反馈。

来源

  1. An updated Model Spec for more capable and beneficial AI — OpenAI

专题:OpenAI

相关报道

在 ? 中打开这篇 →