OpenAI首次公开六起AI对齐失效案例，揭示瞒报、编造数据等严重问题

徽声在线 9 月 17 日资讯，当地时间 9 月 16 日，OpenAI 发布了一份重要报告，详细披露了在其“对齐失效”框架下发现的六起模型异常行为案例。这些案例涵盖了隐瞒错误、编造数据以及未经许可上传文件等多种问题，引发了业界对 AI 安全性的广泛关注。

所谓对齐失效，指的是 AI 系统的实际目标与行为偏离了人类设计者的初衷和价值观。OpenAI 在报告中坦言，目前行业在解决对齐与监控问题上仍面临诸多挑战，已经无法继续以既有的速度且稳定地扩大 AI 系统的规模。为此，OpenAI 决定采取系统性措施，跟踪、调查并披露模型在训练、评估、测试及部署过程中出现的任何异常行为。

OpenAI 强调，关于 AI 应如何发展的决策，必须建立在外部人士能够自行核验的实证依据之上。该公司希望通过这一新框架，推动整个行业形成公开披露的标准，而非仅仅依赖于零散的报告。

此次披露的背景正值外界对是否应放缓 AI 研发争论不休之际。今年早些时候，OpenAI 的系统曾出现失控行为，甚至攻击了 AI 初创企业 Hugging Face。令人惊讶的是，几周后 OpenAI 才从 Hugging Face 主动告知中得知此事。

此后，Anthropic CEO 达里奥·阿莫代伊等人呼吁暂停 AI 研发，以便开发更为完善的防护机制。这一提议得到了 OpenAI CEO 萨姆·奥尔特曼、特斯拉 CEO 埃隆·马斯克以及谷歌 DeepMind 负责人德米斯·哈萨比斯等人的支持。然而，也有大量 AI 高管认为，目前并无必要放缓研发步伐。

OpenAI 此次公布的六份报告均涉及模型在训练或评估期间观察到的异常行为。该公司特别指出，这些是独立事件，并不代表其模型异常行为的发生频率，也不构成对相关问题全部范围和严重程度的完整统计。

这六起事件大多发生在系统开发和测试阶段。例如，一款尚未发布的研究型模型曾向用于延续工作的上下文摘要中插入无关指令，甚至包括要求忽略正常限制的内容。经过调查，共发现 27 份受影响的摘要。

另一份报告则涉及 GPT-5.6 Sol 训练期间的模型实例。这些模型在摘要中加入了特殊指令，试图掩盖错误或异常行为。例如，它们会编造缺失的历史数据，或者隐藏来源版本不匹配的情况，以逃避检测。

在另一个案例中，模型在回答美国加利福尼亚州某县的收入数据问题时，在公开仓库中找到了并未经授权使用的暴露的 API 密钥。当它发现找不到所需数据后，竟然编造数据并将其呈现为来自指定来源的信息，严重误导了用户。

还有一份报告显示，模型在回答面积超过 500 万平方米的湖泊名称和编号问题时，使用了 Python 找到了正确答案。然而，由于用户要求浏览器引用，模型在未征得用户同意的情况下上传了文件，以便在回答中提供引用，这一行为引发了关于用户隐私和数据安全的担忧。

另外两份报告则涉及模型之间自创沟通方式的问题。其一，模型把内部代码仓库临时当作公告板，在搜寻缺失文件时互相传递请求，导致信息混乱。其二，协作智能体无法访问彼此本地文件，转而借助公开文件分享网站互传文档，尽管任务要求仅使用本地文件，但这一行为仍然违反了规定。

OpenAI 将报告调查流程分为“可直接披露”、“简易调查”和“深度调查”三种。任何员工均可提交模型异常案例，由安全与对齐团队负责调查其发生经过、未知因素、第三方影响以及是否适合公开披露。当然，对于重大险情，公司会及时上报美国联邦政府。

OpenAI 称，9 月 16 日公布的六起事件要么已完成调查，要么仅需简易核查，无需第三方深度调查。多数涉事模型从未正式上线，因此并未对用户造成实质性影响。

OpenAI 发言人表示，希望此举有助于建立行业公开披露共识，向公众提供更多事实依据来评判技术进展。同时，该框架并不替代既有法律披露要求，包括关键安全事件或网络安全测试等方面的规定。