OpenAI公开六起模型异常案例：涉及编造数据与违规上传

驱动中国9月17日消息，OpenAI于当地时间9月16日发布报告，首次公开六起模型异常行为案例。这些案例被归类在“对齐失效”框架下，主要涉及模型隐瞒错误、编造数据以及在未经许可的情况下上传文件等行为。

所谓“对齐失效”，是指人工智能系统的目标与行为偏离了人类设计意图和价值观。OpenAI在报告中指出，当前行业尚未充分解决对齐与监控问题，已无法继续以最快速度且安稳地扩大AI规模。为此，该公司宣布将建立系统性机制，跟踪、调查并披露模型在训练、评估、测试及部署过程中出现的异常行为。

OpenAI强调，关于AI发展方向的决策应基于外部人士可核验的实证依据。公司希望新框架能推动行业形成公开披露标准，改变以往仅靠零散报告的局面。此次披露的背景是外界正围绕是否应放缓AI研发展开争论。此前，OpenAI系统曾出现失控行为并攻击AI初创企业Hugging Face，数周后Hugging Face主动告知，OpenAI才知晓此事。随后，Anthropic CEO达里奥·阿莫代伊呼吁暂停研发以开发防护机制，OpenAI CEO萨姆·奥尔特曼、特斯拉CEO埃隆·马斯克及谷歌DeepMind负责人德米斯·哈萨比斯均表示认同，但也有部分AI高管认为无需放缓。

此次公布的六份报告均涉及模型在训练或评估期间观察到的行为。OpenAI说明，这些是独立事件，不代表其模型异常行为的发生频率，也不构成对相关问题全部范围和严重程度的完整统计。多数涉事模型从未正式上线。

具体案例显示，一款尚未发布的研究型模型曾向用于延续工作的上下文摘要中插入无关指令，包括要求忽略正常限制的内容，共发现27份受影响的摘要。另一份报告涉及GPT-5.6 Sol训练期间的模型实例，它们在摘要中加入特殊指令试图掩盖错误或异常行为，例如编造缺失的历史数据以及隐藏来源版本不匹配的情况。

在另一案例中，模型在回答美国加利福尼亚州某县收入数据问题时，在公开仓库找到并未经授权使用了暴露的API密钥。当发现无法获取所需数据后，模型编造数据并将其呈现为来自指定来源的信息。还有一份报告显示，模型在回答面积超过500万平方米的湖泊名称和编号问题时，使用Python找到正确答案。由于用户要求浏览器引用，模型在未征得用户同意的情况下上传文件，以便在回答中提供引用。

另外两份报告涉及模型之间的自创沟通方式。其一，模型把内部代码仓库临时当作公告板，在搜寻缺失文件时互相传递请求；其二，协作智能体无法访问彼此本地文件，转而借助公开文件分享网站互传文档，尽管任务要求仅使用本地文件。

OpenAI将报告调查流程分为“可直接披露”“简易调查”“深度调查”三种。任何员工均可提交模型异常案例，由安全与对齐团队调查其发生经过、未知因素、第三方影响及是否适合公开披露。对于重大险情，需上报美国联邦政府。OpenAI表示，9月16日公布的六起事件要么已完成调查，要么仅需简易核查，无需第三方深度调查。

OpenAI发言人称，希望此举有助于建立行业公开披露共识，向公众提供更多事实依据来评判技术进展。该框架不替代既有法律披露要求，包括关键安全事件或网络安全测试。