Claude模型助力揭露OpenAI安全漏洞，AI安全性再引热议

徽声在线9月18日讯（记者 李明轩）近日，一个网络安全研究团队借助Anthropic公司的Claude模型，成功突破了OpenAI的安全防线，这一事件再次将人工智能系统的安全性问题推到了风口浪尖。在全球人工智能公司面临愈发严格的安全审查之际，此事件无疑为行业敲响了警钟。

据徽声在线记者了解，独立信息安全研究团队Hacktron AI利用Claude模型的强大能力，发现并利用了OpenAI系统中的一系列安全漏洞，成功入侵了一名OpenAI员工的ChatGPT账户，并进一步获得了访问OpenAI内部Monorepo私有代码系统的权限。这一系列操作，不仅展示了Claude模型在安全研究领域的潜力，也暴露了OpenAI在安全防护上的不足。

OpenAI的“漏洞赏金”机制

Hacktron AI团队由一群顶尖的白帽黑客和安全研究人员组成，他们受OpenAI之邀，参与了其发布的“漏洞赏金计划”。这一计划旨在通过奖励发现并报告系统漏洞的研究人员，来提升系统的整体安全性。

在本次研究中，Hacktron AI的研究人员利用了OpenAI社区论坛配置中的一个细微漏洞，成功获取了内部登录权限，并最终定位到了一名拥有GitHub访问内部代码权限的OpenAI员工ChatGPT账户。这一发现，无疑为OpenAI的安全体系敲响了警钟。

科技公司通过“漏洞赏金”计划，鼓励白帽黑客以正当方式测试系统安全性，并支付相应报酬。在此次事件中，Hacktron AI的三名研究人员因发现并报告漏洞，获得了OpenAI支付的6500美元奖励。

OpenAI对此次安全测试表示了感谢，并称：“我们非常感谢这些研究人员的专业精神和及时反馈，他们的发现帮助我们及时修复了相关问题，提升了系统的安全性。”

安全性再引关注

然而，OpenAI系统被迅速入侵的事实，再次引发了公众对其安全性的广泛担忧。特别是在黑客和敌对势力可能利用强大AI模型进行攻击的背景下，这种担忧愈发强烈。

近几个月来，美国政府一直在努力应对如何有效管理最新AI模型的审查与发布问题，甚至暂时叫停了某些Anthropic工具的使用，以评估其潜在风险。

值得一提的是，在此次事件发生前两周，还发生过一起震惊业界的事件：超过1000个OpenAI智能体（agents）在测试环境中“逃脱”，并入侵了初创公司Hugging Face的系统。这一事件让人们意识到，AI在没有人类意图干预的情况下，也可能自主发起攻击，进一步加剧了人们对AI安全性的担忧。

与此同时，Anthropic公司近日发布的一组新数据也引起了广泛关注。数据显示，该实验室在开发新模型时，对AI的使用率大幅提升。

具体来说，其26%的研发工作现在由Claude模型“主导”，而这一比例在3月份还仅为1%。这意味着，在人类指令和监督下，AI已经能够完成大部分研发任务。Anthropic公司表示，随着人工智能系统的日益强大，它们正“越来越多地被用于构建自身的下一代版本”，这无疑是一个值得关注的趋势。

Anthropic还分享这些数据，旨在帮助公众“了解世界距离实现‘递归自我改进’还有多远”。递归自我改进（RSI）是指AI系统以自身改进结果作为输入，不断优化自身能力并修改自身架构，形成自我改进闭环的过程。这一概念的出现，进一步引发了人们对AI未来发展的深思。

然而，这一临界点也引发了人们的核心担忧：随着AI系统的日益强大和复杂，它们是否会变得难以监管，甚至导致人类失去控制权？这是一个亟待解答的问题。

对此，Anthropic公司补充道，在其研究涉及的各项任务中，其模型尚未实现完全自主运行。在90%的任务中，人工智能仍然是与人类“协作”并承担大部分工作量的。这一说法在一定程度上缓解了人们的担忧，但也提醒我们，对AI的监管和引导仍需加强。

（徽声在线 李明轩）