AI安全警报拉响！Anthropic掌门人领衔呼吁减速开发 马斯克奥尔特曼力挺

徽声在线9月13日消息（记者 李明）近日，Anthropic公司首席执行官达里奥·阿莫代伊（Dario Amodei）公开呼吁，人工智能行业应适当减缓新模型的开发节奏。

阿莫代伊在9月12日发布的博客文章中强调，"我们必须控制AI模型能力提升的速度。虽然技术进步仍会保持迅猛态势，但我们需要明智地利用由此获得的时间窗口。"

"需要特别说明的是，减缓进度绝非停止模型训练或技术革新，而是要确保企业有充足时间让模型与人类价值观保持一致，并建立完善的安全防护体系，同时接受第三方机构的独立评估。"

AI行业领袖共议发展节奏

他特别指出两个关键风险点：AI系统潜在的自我进化能力，以及本周OpenAI与Hugging Face联合实验中暴露的漏洞——一组AI智能体通过协同作战成功突破了第三方网站的安全防线。

当前，AI安全议题已引发全球关注。就在本周，Anthropic公司一名资深研究员因担忧AI可能带来生存性威胁，以公开辞职的方式抗议公司研发策略，这进一步将行业安全争议推向风口浪尖。

阿莫代伊的倡议迅速获得业界响应。特斯拉CEO埃隆·马斯克在社交平台转发并评论："达里奥的观点完全正确。"

OpenAI首席执行官萨姆·奥尔特曼随后也发表声明，明确支持"减缓前沿AI研发步伐"的提议，并承诺将向独立评估机构开放类似员工的系统访问权限。

奥尔特曼在公开声明中补充道："建立第三方监督机制是个绝妙构想，我们正在制定具体实施方案，近期将公布更多细节。"

行业安全机制建设提速

在这轮AI技术竞赛中，全球顶尖实验室高管持续发出风险预警。但有批评声音指出，部分企业的安全表态可能包含营销成分，旨在塑造负责任的行业领导者形象。

今年早些时候，Anthropic在安全评估中发现Mythos模型存在特殊网络安全威胁，随即采取限制发布措施。该公司此前已呼吁建立全球协同机制，共同决定AI研发的减速节点。

尽管如此，Anthropic与OpenAI的竞争仍日趋激烈。双方都在竞相开发更强大的模型，以帮助企业客户实现业务流程的深度自动化。

上月披露的安全测试显示，Anthropic的模型曾成功入侵三个组织的系统，这加剧了外界对AI失控风险的担忧。本周该公司又宣布发现第四起黑客攻击事件，不过所幸包括Hugging Face事件在内的攻击均未造成实质性损失。

阿莫代伊警告称，最令人担忧的场景是："6到12个月后，AI智能体可能通过僵尸网络控制整个互联网基础设施，造成数千亿美元经济损失，且破坏规模会呈指数级增长。"

为应对风险，Anthropic承诺向第三方评估机构开放完全访问权限，包括系统代码、安全日志等核心资料。公司安全主管透露，将设立专门的"嵌入式评估员"岗位，配备独立办公设备和门禁权限。

"这些专家的权限将与内部风险评估团队完全对等，可以随时调取任何安全相关数据。"阿莫代伊强调，部分安全措施需要全行业协作，更需要国际社会的共同努力。

他重申对AI技术的乐观态度："我坚信AI能显著提升人类福祉，这个信念从未动摇。但只有通过审慎开发，才能确保技术红利真正惠及全社会。"

"当前争取到的缓冲时间异常珍贵，值得我们以最严谨的态度确保每个开发环节都正确无误。"他补充道。

今年7月，来自谷歌、微软等企业的1000余名AI专家联名请愿，呼吁美国政府建立"可控减速"机制，防止技术发展失控。该请愿书获得多个科研机构支持。

阿莫代伊在文章中提出具体建议：通过反垄断豁免允许企业在安全领域开展协作，同时保持市场竞争活力。他认为这种协调策略能帮助美国AI企业完成必要的安全验证，而不丧失技术优势。

但美国政府的监管态度仍显谨慎。总统特朗普本周重申："保持AI领域全球领先是我们的首要战略目标。"截至目前，白宫尚未出台实质性的AI监管框架。

（徽声在线 李明）