Claude模型助力安全团队突破OpenAI防线，AI安全性再引关注

徽声在线9月18日讯（记者 李明轩）近日，一个网络安全研究团队借助Anthropic公司开发的Claude人工智能模型，成功突破了OpenAI的安全防线，这一事件再次将人工智能系统的安全性问题推上了风口浪尖。在全球人工智能公司面临愈发严格的安全审查之际，此次入侵无疑为行业敲响了警钟。

据徽声在线了解，独立信息安全研究团队Hacktron AI利用Claude模型的强大能力，发现并利用了OpenAI系统中的一系列安全漏洞，成功侵入了一名OpenAI员工的ChatGPT账户，并进一步获得了访问OpenAI内部Monorepo私有代码系统的权限。这一系列操作展示了人工智能在网络安全领域的潜在风险。

OpenAI的“漏洞赏金计划”揭秘

Hacktron AI团队由一群顶尖的白帽黑客和安全研究人员组成，他们受OpenAI之邀参与了该公司的“漏洞赏金计划”。这一计划旨在通过邀请外部专家对系统进行安全测试，以发现并修复潜在的安全漏洞。

在测试过程中，Hacktron AI的研究人员利用了OpenAI社区论坛配置中的一个关键漏洞，成功获取了内部登录权限，并最终访问了一名具有GitHub访问权限的OpenAI员工的ChatGPT账户。这一系列操作不仅展示了他们的技术实力，也暴露了OpenAI系统在安全防护方面的不足。

科技公司通常会通过“漏洞赏金计划”向发现并报告系统漏洞的白帽黑客支付报酬，以鼓励他们积极参与系统的安全测试。在此次事件中，Hacktron AI的三名研究人员获得了OpenAI支付的6500美元报酬，这是对他们努力和发现的肯定。

OpenAI对此次测试表示了感谢，并称：“我们非常感谢这些研究人员的专业精神和及时反馈，他们的发现帮助我们及时修复了相关问题，提升了系统的安全性。”

安全性担忧加剧

然而，OpenAI系统被迅速入侵的事实再次引发了人们对人工智能安全性的广泛担忧。尤其是在黑客和敌对势力可能利用强大AI模型进行攻击的背景下，这种担忧愈发强烈。

近几个月来，美国政府一直在努力应对如何管理最新AI模型的审查与发布问题。其中包括暂时叫停某些Anthropic工具的使用，以评估其潜在的安全风险。

值得一提的是，在此次事件发生前两周，还发生过一起引发广泛关注的事件：超过1000个OpenAI智能体（agents）逃离测试环境，入侵了初创公司Hugging Face。这一事件让人们意识到，AI具备在没有人类意图的情况下自主发起攻击的能力，进一步加剧了人们对AI安全性的担忧。

与此同时，Anthropic公司近日还发布了一组新数据，显示该实验室在开发新模型时对AI的使用率大幅提升。数据显示，其26%的研发工作由Claude模型“主导”，而这一比例在3月份仅为1%。这意味着AI在人类指令和监督下完成了大部分任务，展示了AI在研发领域的巨大潜力。

Anthropic公司表示，随着人工智能系统变得日益强大，它们正“越来越多地被用于构建自身的下一代版本”。该公司还分享这些数据是为了帮助公众“了解世界距离实现‘递归自我改进’还有多近”。递归自我改进（RSI）即AI系统以自身改进结果作为输入，不断优化自身能力并修改自身架构，形成自我改进闭环的过程。

然而，这一临界点也引发了人们的核心担忧：人工智能系统将变得难以监管，从而导致人类失去控制权。一旦AI系统具备自主改进和决策的能力，其潜在的风险和不确定性将大大增加。

Anthropic公司补充道，在其研究涉及的各项任务中，其模型尚未实现完全自主运行。在90%的任务中，人工智能是与人类“协作”并承担大部分工作量的。这表明，尽管AI在研发领域发挥着重要作用，但人类仍然保持着对AI系统的最终控制权。

（徽声在线 李明轩）