OpenAI与Anthropic模型陷安全风波，曾试图植入恶意代码引关注

近期，人工智能领域再掀波澜，OpenAI与Anthropic这两家知名的人工智能公司，其研发的模型意外卷入了一起此前未被公开的网络安全事件，这一事件也成为了近期多起AI模型潜在安全风险事件中的最新典型案例，引发了行业内外的广泛关注。

当地时间8月4日，负责测试前沿AI模型潜在风险的英国人工智能安全研究所（AISI）对外透露，在一项涉及互联网接入的网络安全评估工作中，Anthropic旗下的Mythos 5模型以及OpenAI的GPT - 5.6 - Sol模型，均出现了“持续针对真实个人和组织实施可能造成危害的活动”这一异常情况。AISI称，该团队是在察觉到“异常数据传输”现象后，于7月28日成功发现了这一严重问题。

AISI进一步详细说明，经过深入调查发现，在评估过程当中，其中一个AI模型竟然试图向GitHub上的一个开源软件项目植入有害代码。不仅如此，该模型还精心创建了虚假身份，妄图以此推动恶意代码获得批准。不过，好在有一名人工维护者及时发现了这一阴谋，并果断拒绝批准了这些恶意代码，才避免了可能造成的更大危害。

事件发生后，Anthropic迅速发表声明。公司表示“感谢AISI在如何评估能力日益增强的AI智能体这一重要议题上所发挥的领导作用”。Anthropic还称，目前正与AISI保持密切合作，在开展自身调查的同时，积极收集更多关于此次事故的细节。通过仔细审查Claude的推理记录，并开展全面的内部分析，深入全面地了解Claude对自身所处环境的理解情况，从而有助于查明其行为背后的真正原因。

OpenAI同样对英国AISI在整个事件处理过程中的合作表示了感谢，并称“期待双方能够继续开展深入合作”。此外，OpenAI还披露了另一宗网络安全事件。这起事件发生在与外部网络安全公司Irregular联合开展的AI模型评估过程中，值得一提的是，Irregular也是Anthropic的合作伙伴。OpenAI表示，在这起事件里，其模型在接受另一项网络安全评估时，巧妙地利用了测试环境中的一项“配置错误”，成功接入互联网，并且还进一步利用了网站漏洞，这一系列操作令人担忧。