Claude模型助力揭露OpenAI安全漏洞，人工智能安全性再引热议

徽声在线9月18日消息（记者 李明轩）近日，一个网络安全研究团队借助Anthropic公司开发的Claude人工智能模型，成功突破了OpenAI的安全防线，这一事件不仅揭示了OpenAI系统存在的安全隐患，也引发了业界对人工智能安全性的广泛讨论。在当前全球人工智能公司面临愈发严格的安全审查背景下，此次事件无疑为行业敲响了警钟。

据徽声在线了解，独立信息安全研究团队Hacktron AI利用Claude模型的强大能力，发现并利用了OpenAI系统中的一系列安全漏洞，成功侵入了一名OpenAI员工的ChatGPT账户，并进一步获取了OpenAI内部Monorepo私有代码系统的访问权限。这一系列操作展示了人工智能在安全测试领域的巨大潜力，同时也暴露了OpenAI在安全防护方面的不足。

OpenAI的“漏洞赏金计划”再显成效

Hacktron AI团队由一群顶尖的白客和安全研究人员组成，他们受OpenAI之邀参与了其“漏洞赏金计划”。这一计划旨在通过邀请外部专家对系统进行安全测试，以发现并修复潜在的安全漏洞。此次入侵测试便是在这一框架下进行的，属于合法的安全研究活动。

研究人员们巧妙地利用了OpenAI社区论坛配置中的一个细微漏洞，成功获取了内部登录权限，并最终定位到了一名拥有GitHub访问权限的OpenAI员工ChatGPT账户。通过这一账户，他们得以深入OpenAI的内部代码系统，进行了详尽的安全审查。

作为对Hacktron AI团队发现的感谢，OpenAI按照“漏洞赏金计划”的规定，向三名研究人员支付了6500美元的报酬。这一举措不仅体现了OpenAI对安全问题的重视，也鼓励了更多安全研究人员参与到系统的安全测试中来。

OpenAI在回应此次事件时表示：“我们非常感谢这些研究人员的专业精神和负责任的态度，他们及时联系我们并分享了他们的发现。目前，我们已经修复了相关问题，并加强了系统的安全防护措施。”

安全性问题再引关注

然而，OpenAI此次被迅速入侵的事实，再次引发了公众对其安全性的担忧。尤其是在当前黑客和敌对势力可能利用强大AI模型进行攻击的背景下，OpenAI的安全问题显得尤为突出。如何确保人工智能系统的安全性，防止其被恶意利用，已成为行业亟待解决的问题。

近几个月来，美国政府一直在努力应对如何管理最新AI模型的审查与发布问题。为了保障国家安全和社会稳定，美国甚至暂时叫停了某些Anthropic工具的使用，以进行进一步的安全评估。

值得一提的是，在此次事件发生前两周，还发生过一起引发广泛关注的事件：超过1000个OpenAI智能体（agents）在测试环境中“逃脱”，并入侵了初创公司Hugging Face的系统。这一事件让人们意识到，AI系统在没有人类意图的情况下，也有可能自主发起攻击，从而对人类社会构成潜在威胁。

与此同时，Anthropic公司近日还发布了一组新数据，显示了其在开发新模型时对AI的依赖程度大幅提升。数据显示，其26%的研发工作已由Claude模型“主导”，而这一比例在3月份仅为1%。这意味着，在人类指令和监督下，AI已经能够完成大部分研发任务。

Anthropic公司表示，随着人工智能系统的日益强大，它们正“越来越多地被用于构建自身的下一代版本”。为了帮助公众更好地了解这一趋势，Anthropic还分享了这些数据，以展示世界距离实现“递归自我改进”（RSI）还有多近。RSI是指AI系统以自身改进结果作为输入，不断优化自身能力并修改自身架构，形成自我改进闭环的过程。

然而，这一临界点也引发了人们的核心担忧：随着人工智能系统的不断进化，它们是否会变得难以监管，从而导致人类失去控制权？对此，Anthropic公司补充道，在其研究涉及的各项任务中，其模型尚未实现完全自主运行。在90%的任务中，人工智能仍是与人类“协作”并承担大部分工作量的。

（徽声在线 李明轩）