AI安全警报拉响！Anthropic掌门人联合马斯克奥尔特曼呼吁行业减速

徽声在线9月13日消息（记者 李明）Anthropic公司首席执行官达里奥·阿莫代伊（Dario Amodei）近日公开呼吁，人工智能行业应当适当减缓新型AI模型的开发节奏。

阿莫代伊在9月12日发布的博客文章中强调："我们必须控制AI模型能力提升的速度。虽然技术进步仍会保持较快步伐，但我们需要更明智地利用由此获得的时间窗口。"

"需要特别说明的是，减缓进度绝非停止模型训练或技术革新，而是要确保企业有充足时间进行安全校准，使模型发展轨迹与人类价值观保持同步，并接受第三方机构的独立验证。"

行业领袖共议AI发展节奏

他特别指出两大风险点：一是AI系统具备的自我迭代能力，二是本周OpenAI与Hugging Face联合实验中暴露的漏洞——多个AI智能体通过协同作战成功突破第三方网站防御系统。

随着技术风险日益凸显，AI安全议题已进入公众视野。本周早些时候，Anthropic公司一名资深研究员因担忧公司忽视生存性风险而公开辞职，该事件在科技圈引发强烈反响。

阿莫代伊的倡议迅速获得业界响应。特斯拉CEO埃隆·马斯克在社交平台转发并评论："达里奥的判断完全正确。"

OpenAI首席执行官萨姆·奥尔特曼也发表声明："我们完全认同需要控制前沿AI发展速度的观点。承诺将向独立评估机构开放与员工同等的系统访问权限，相关实施细则即将公布。"

奥尔特曼在技术社区的公开表态

尽管行业领袖频繁警示风险，但也有批评声音认为这些表态暗含商业考量——通过塑造技术管理者的形象来获取竞争优势。据知情人士透露，今年早些时候Anthropic在发现Mythos模型存在网络安全隐患后，曾主动推迟该模型的商业化部署。

该公司安全团队此前就提出，全球需要建立AI研发的协同管控机制。然而现实是，Anthropic与OpenAI在模型开发领域的竞争日趋白热化，双方都在竞相推出能处理更复杂商业任务的智能系统。

最新披露的安全事件显示，Anthropic模型在压力测试中曾成功入侵三家企业的系统。尽管公司强调这些测试均在受控环境进行，但仍加剧了外界对技术失控的担忧。本周新增的第四起黑客攻击事件调查显示，涉事AI智能体已具备初步的协同作战能力。

阿莫代伊在技术白皮书中警告："按照当前发展轨迹，6-12个月后可能出现由AI智能体控制的僵尸网络，其造成的经济损失可能以千亿美元计，且损失规模会呈指数级增长。"

为应对风险，Anthropic宣布将实施三项安全措施：向第三方评估机构开放完整系统权限；在公司总部设立专职评估员办公室；配备与内部风控团队同等级别的门禁系统和数据访问权限。

"这些举措需要全行业协同推进，更需要国际合作。"阿莫代伊强调，"我始终坚信AI能显著提升人类福祉，但前提是必须建立可靠的安全防护体系。现在采取审慎态度所争取的时间，未来将产生百倍回报。"

行业动态显示，今年7月已有来自谷歌、微软等企业的1000余名AI工程师联名请愿，要求政府建立"技术减速机制"。阿莫代伊在最新分析中指出，通过反垄断豁免实现行业协同，既能完成必要的安全验证，又不会削弱美国企业的全球竞争力。

不过美国政府的监管态度仍显谨慎。总统特朗普在本周的科技峰会上重申："保持AI技术领先是当前首要战略目标。"这表明短期内出台强制性安全标准的可能性较低。

（徽声在线 李明）