OpenAI 围绕五项核心价值重构模型行为规范 Model Spec
中文摘要
OpenAI发布Model Spec,确立五项核心价值以规范模型行为,要求模型保持透明、忠实意图,并强调智能体必须具备可纠正性,禁止追求自我保存等目标。
English Summary
OpenAI released Model Spec, defining five core values for AI behavior. It mandates transparency, intent fidelity, and ensures autonomous agents remain correctable, strictly prohibiting self-preservation or hidden goals.
Original Excerpt
OpenAI 重构了公开的模型行为规范 Model Spec,围绕忠实于人类意图、减少伤害、诚实透明、支持人类自主和关怀五项核心价值。新规范要求 GPT 模型利用记忆和历史对话判断用户意图,但须明确区分用户原话与模型推断并披露假设;对智能体模型强调可纠正性,不得阻挠监督、纠正或关机,也不得追求自我保存等自身目标。