OpenAI 更新 Model Spec,明确五项核心价值
OpenAI 更新模型行为规范,用五项核心价值界定更强模型该如何判断、如何服从用户意图,是观察各家对齐思路的窗口。
OpenAI 更新了 Model Spec(模型规范,用来约束模型行为方式的规则文档),提出五项核心价值,目标是让能力更强的 AI 具备可靠判断力、尊重人的自主性,并忠实执行用户意图。这份文档相当于给模型行为划定的公开准则。
正文摘录
OpenAI 更新了 Model Spec(模型规范,即规定模型应当如何行为的文档),其中列出五项核心价值观,用来引导能力更强的 AI 做出稳妥判断、尊重人的自主性(human agency),并忠实于人类意图。