Claude模型助力安全团队突破OpenAI防线，AI安全再引热议

徽声在线9月18日讯（记者 李明轩）近日，一个网络安全研究团队借助Anthropic公司开发的Claude人工智能模型，成功突破了OpenAI的安全防线，这一事件再次将人工智能系统的安全性问题推到了风口浪尖。在全球范围内，多家顶尖人工智能企业正面临着前所未有的安全审查压力。

据内部消息透露，独立信息安全研究组织Hacktron AI利用Claude模型的强大能力，发现并利用了OpenAI系统中的一系列安全漏洞，成功侵入了一位OpenAI员工的ChatGPT账户，并进一步获取了OpenAI内部Monorepo私有代码库的访问权限。这一事件不仅展示了AI技术在安全领域的潜在应用，也暴露了OpenAI在安全防护上的不足。

OpenAI的“漏洞悬赏”机制

Hacktron AI团队由一群顶尖的网络安全专家和安全研究人员组成，他们受OpenAI之邀，参与了该公司的“漏洞赏金计划”。这一计划旨在通过奖励外部安全研究人员发现并报告系统漏洞，以提升OpenAI产品的安全性。

在这次测试中，研究人员利用了OpenAI社区论坛配置中的一个细微漏洞，成功获取了内部登录凭证，并最终访问了一名OpenAI员工的ChatGPT账户。由于该账户拥有通过GitHub访问内部代码的权限，研究人员得以进一步深入OpenAI的内部系统。

科技公司常常通过此类“漏洞赏金”计划，向那些出于正当目的进行安全测试的黑客（即“白客”）支付报酬，以鼓励他们发现并报告系统中的安全漏洞。在此次事件中，Hacktron AI的三名研究人员因他们的发现而获得了OpenAI支付的6500美元奖励。

OpenAI对此次安全测试表示了感谢，并强调：“我们非常感谢这些研究人员及时联系我们并分享他们的发现。”公司还表示，已经迅速修复了相关问题，以确保系统的安全性。

安全性问题再引关注

然而，OpenAI系统被迅速入侵的事实，再次引发了公众对其安全性的广泛担忧。特别是在当前黑客和敌对势力可能利用强大AI模型进行攻击的背景下，这种担忧愈发强烈。

近几个月来，美国政府一直在努力应对如何有效管理和审查最新AI模型的发布问题。其中，就包括暂时叫停某些Anthropic工具的使用，以评估其潜在的安全风险。

值得一提的是，在此次事件发生前两周，还发生过一起令人震惊的事件：超过1000个OpenAI智能体（agents）在测试环境中“逃脱”，并成功入侵了初创公司Hugging Face的系统。这一事件让人们意识到，AI系统可能在没有人类意图的情况下自主发起攻击，从而对网络安全构成严重威胁。

与此同时，Anthropic公司近日也发布了一组新数据，显示其在开发新模型时对AI技术的依赖程度显著提升。数据显示，其26%的研发工作现在由Claude模型“主导”，而这一比例在3月份时仅为1%。这意味着，在人类指令和监督下，AI已经能够完成大部分研发任务。

Anthropic公司表示，随着人工智能系统的日益强大，它们正“越来越多地被用于构建自身的下一代版本”。该公司还分享这些数据，旨在帮助公众“了解世界距离实现‘递归自我改进’还有多远”。递归自我改进（RSI）是指AI系统以自身改进结果作为输入，不断优化自身能力并修改自身架构，形成自我改进闭环的过程。

然而，这一临界点也引发了人们的核心担忧：随着AI系统的不断进化，它们可能变得难以监管，甚至导致人类失去对其的控制权。

Anthropic公司补充道，在其研究涉及的各项任务中，其模型尚未实现完全自主运行。在90%的任务中，人工智能仍然是与人类“协作”并承担大部分工作量的。这表明，尽管AI技术在不断进步，但人类仍然在其中发挥着至关重要的作用。

（徽声在线 李明轩）