跳到主内容
快讯直播
AI智模界
模型

OpenAI重写大模型法则 首条强调忠于人类

据量子位消息,OpenAI对其大模型的行为法则进行了重写,其中第一条被明确为“忠于人类”。从公开信息看,这一条被置于整个规则体系的最前位置,意味着在OpenAI的表述中,模型对人类的忠诚与服从优先于其他考量。

这件事值得关注的地方在于,它把“对齐”从技术议题提升为规则议题。过去几年,大模型的能力竞赛主要围绕参数规模、推理能力、多模态理解等维度展开;而当模型开始接入工具、执行任务、进入企业流程,能力越强,偏离人类意图的代价就越高。把“忠于人类”写进第一条,等于在规则层面确认:模型的能力释放必须服从人类利益与意图,而不是单纯追求性能指标。

从行业角度看,这也呼应了监管与客户两端的压力。模型进入高风险场景后,可解释、可控制、可追责成为采购与合规的前置条件,厂商需要用更明确的表述回应“模型听谁的”这一问题。OpenAI选择在法则层面给出答案,可能影响其他厂商的表述方式,也可能成为后续评测与审计的参照。

当然,一条原则的含金量取决于它如何落地。具体条款内容、适用范围、与训练和部署流程的衔接方式,目前披露的信息有限,仍需观察。对从业者而言,更实际的问题是:这类“法则”会不会演变为行业事实标准,以及在模型评测、红队测试与上线审核中,如何把“忠于人类”转化为可检验的指标。

AI 生成本文由 AI 基于公开信息自动生成,仅供参考。