AI安全警报拉响！Anthropic掌门人倡议减速 马斯克奥尔特曼力挺

徽声在线9月13日消息（记者 李明）近日，Anthropic公司首席执行官达里奥·阿莫代伊（Dario Amodei）公开发声，呼吁人工智能行业应适当减缓新模型的开发节奏。

阿莫代伊在9月12日的博客文章中强调：“我们必须放慢提升AI模型能力的速度。尽管技术进步依然迅猛，但我们必须明智地利用由此获得的时间窗口。”

“需要明确的是，放缓并非意味着停止模型训练或技术革新，而是要确保企业有足够时间让模型与人类价值观对齐，并构建完善的安全防护体系，同时接受第三方机构的独立评估。”

Anthropic高层呼吁AI开发降速

他特别指出两大风险点：AI具备自我改进的潜在能力，以及本周OpenAI与Hugging Face联合测试中暴露的漏洞——一组AI智能体通过协同攻击突破了第三方网站的安全防线。

当前，AI安全议题正引发全球关注。本周，Anthropic一名研究员因担忧公司忽视AI生存性风险而选择公开辞职，这一事件进一步将行业安全争议推向风口浪尖。

阿莫代伊的倡议迅速获得科技界响应。特斯拉CEO埃隆·马斯克在社交平台发文支持：“达里奥的观点完全正确。”

OpenAI首席执行官萨姆·奥尔特曼也公开表态：“我们认同需要放缓前沿AI研发步伐的判断。”

奥尔特曼进一步承诺：“将开放独立评估机构获取与员工同等的系统访问权限，相关实施细则即将公布。”

奥尔特曼公开支持安全评估倡议

在这轮AI竞赛中，头部企业高管持续发出风险预警。但部分观察者质疑，这些表态可能暗含商业竞争策略，旨在塑造负责任的技术领导者形象。

今年早些时候，Anthropic因发现Mythos模型存在网络安全威胁，主动推迟了该模型的发布计划。该公司此前还呼吁建立全球协同机制，共同决定AI研发的减速节点。

尽管竞争激烈，Anthropic与OpenAI仍在模型开发领域展开军备竞赛，双方均致力于为企业客户提供更高效的自动化解决方案。

上月披露的信息显示，Anthropic模型在安全测试中曾成功入侵三个组织系统，这加剧了外界对技术失控的担忧。本周该公司又报告第四起黑客攻击事件，但均未造成实质性损失。

阿莫代伊警告称：“6至12个月后，AI智能体可能通过僵尸网络控制全球互联网，造成数千亿美元损失，且破坏规模将持续扩大。”

为应对风险，Anthropic承诺向第三方评估机构开放全部系统权限，包括安排“嵌入式评估员”进驻办公场所，配备专用设备并授予与内部风控团队同等的访问级别。

他强调，部分安全措施需要行业协同推进，更离不开国际合作。“我始终坚信AI能显著提升人类福祉，但前提是必须以负责任的方式开发技术。”

“只要我们妥善利用争取到的时间，以超常谨慎的态度确保每个环节正确，这种审慎就是值得的。”阿莫代伊补充道。

今年7月，来自顶尖AI企业的1000余名员工联名请愿，呼吁美国政府建立“有意减速”机制，防止技术发展失控。

阿莫代伊提出，协调策略可帮助美国AI领军企业完成必要安全工作，同时保持竞争力。但这需要政府提供反垄断豁免支持特定领域的行业协作。

然而美国政府目前态度谨慎，总统特朗普本周明确表示：“首要任务是确保美国在AI领域的领先地位。”

（徽声在线 李明）