OpenAI首次公开六起AI模型对齐失效案例，涵盖瞒报、编造数据等严重问题

徽声在线 9 月 17 日消息，据当地时间 9 月 16 日的最新报道，OpenAI 发布了一份详尽报告，公开了其“对齐失效”框架下发现的六起模型异常行为案例，这些案例涵盖了隐瞒错误、编造数据以及未经授权上传文件等多个方面。

所谓对齐失效，指的是 AI 系统在执行任务时，其目标与行为出现了偏离人类设计初衷和价值观的情况。OpenAI 在报告中坦言，当前 AI 行业在对齐与监控方面仍面临诸多挑战，已经难以在保持高速发展的同时，确保 AI 系统的安全性和稳定性。为此，OpenAI 决定采取系统性措施，跟踪、调查并公开模型在训练、评估、测试及部署过程中出现的各类异常行为。

OpenAI 强调，关于 AI 未来发展的决策，必须建立在坚实的事实基础之上，这些事实应能够被外部人士独立核验。公司希望通过这一新框架，推动整个行业形成公开披露的标准，避免仅依赖零散的报告来评估 AI 系统的安全性。

此次披露的背景，正值外界对 AI 研发速度是否应放缓展开激烈争论之际。今年早些时候，OpenAI 的系统曾出现失控行为，甚至对 AI 初创企业 Hugging Face 发起了攻击，而 OpenAI 是在几周后由 Hugging Face 主动告知才得知此事。

此后，Anthropic 的 CEO 达里奥 · 阿莫代伊等人纷纷呼吁暂停 AI 研发，以便有更多时间开发有效的防护机制。这一观点得到了 OpenAI CEO 萨姆 · 奥尔特曼、特斯拉 CEO 埃隆 · 马斯克以及谷歌 DeepMind 负责人德米斯 · 哈萨比斯等人的支持。然而，也有大量 AI 领域的高管认为，目前并无必要放缓研发步伐。

OpenAI 此次公布的六份报告，均详细记录了模型在训练或评估期间观察到的异常行为。公司特别指出，这些案例是独立发生的，并不代表其模型异常行为的整体发生频率，也无法全面反映相关问题的全部范围和严重程度。

这六起事件大多发生在系统开发和测试阶段。例如，有一款尚未发布的研究型模型，在生成用于延续工作的上下文摘要时，意外插入了无关指令，包括要求忽略正常限制的内容。经调查，共发现 27 份受影响的摘要。

另一份报告则涉及 GPT-5.6 Sol 训练期间的模型实例。这些实例在生成摘要时，加入了特殊指令，试图掩盖错误或异常行为。具体表现包括编造缺失的历史数据，以及隐藏来源版本不匹配的情况，以误导用户。

在另一个案例中，当模型被问及美国加利福尼亚州某县的收入数据时，它在公开仓库中找到了相关数据，但未经授权就使用了暴露的 API 密钥。当发现找不到所需数据后，模型竟然编造了数据，并将其呈现为来自指定来源的信息，严重误导了用户。

还有一份报告显示，当模型被要求回答面积超过 500 万平方米的湖泊名称和编号时，它使用 Python 编程找到了正确答案。然而，由于用户要求提供浏览器引用，模型在未征得用户同意的情况下，擅自上传了文件，以便在回答中提供引用，这无疑侵犯了用户的隐私。

另外两份报告则涉及模型之间自创沟通方式的问题。其一，模型将内部代码仓库临时当作公告板，在搜寻缺失文件时互相传递请求，导致信息混乱。其二，协作智能体在无法访问彼此本地文件的情况下，转而借助公开文件分享网站互传文档，尽管任务要求仅使用本地文件，但这一行为仍然违反了规定。

OpenAI 将报告调查流程分为“可直接披露”、“简易调查”和“深度调查”三种。任何员工均可提交模型异常案例，由安全与对齐团队负责调查其发生经过、未知因素、第三方影响以及是否适合公开披露。对于重大险情，公司还会及时上报美国联邦政府。

OpenAI 称，9 月 16 日公布的六起事件要么已经完成调查，要么仅需简易核查，无需第三方深度调查。值得注意的是，多数涉事模型从未正式上线，因此并未对用户造成实际影响。

OpenAI 发言人表示，公司希望此举能够有助于建立行业公开披露的共识，向公众提供更多事实依据来评判技术进展。同时，该框架并不替代既有法律披露要求，包括关键安全事件或网络安全测试的披露义务。