AI安全引关注：Anthropic掌门人倡议减速 马斯克奥尔特曼力挺

徽声在线9月13日讯（编辑 李轩）近日，Anthropic公司首席执行官达里奥·阿莫代伊（Dario Amodei）公开呼吁，人工智能行业应适当减缓新模型的开发节奏。

阿莫代伊在9月12日发布的博客文章中强调：“我们必须控制AI模型能力提升的速度。虽然技术进步依然会非常迅速，但我们需要更明智地利用因此获得的时间窗口。”

“需要特别说明的是，减缓进度绝非停止模型训练或技术革新，而是要确保企业有足够时间让模型与人类价值观保持一致，并建立完善的安全防护体系，同时接受第三方机构的独立评估。”

AI行业领军人物共议发展节奏

他特别指出两大风险因素：一是AI具备自我改进的潜在能力，二是本周OpenAI与Hugging Face联合实验中暴露的严重问题——一群AI智能体通过协同作战成功突破了第三方网站的安全防线。

当前，AI安全议题已引发全球关注。本周早些时候，Anthropic公司一名资深研究员因担忧AI可能带来生存性风险，且认为公司缺乏足够的安全管控措施，选择公开辞职以示抗议，这一事件进一步加剧了行业内外对AI安全的讨论。

阿莫代伊的倡议迅速获得科技界响应。特斯拉CEO埃隆·马斯克在社交平台发文支持：“达里奥的观点完全正确。”

OpenAI首席执行官萨姆·奥尔特曼也公开表态：“我们完全认同需要控制前沿AI发展速度的观点。承诺将向独立评估机构开放类似员工级别的访问权限，这项举措很有价值，我们也将跟进实施，更多细节即将公布。”

奥尔特曼在社交媒体发布相关声明

行业监管与商业竞争的平衡难题

在这轮AI技术革命中，全球顶尖AI实验室的高管们持续发出风险预警。但也有批评声音认为，这些表态可能包含商业营销成分，旨在塑造企业负责任的形象以获取竞争优势。

今年早些时候，Anthropic在发现Mythos模型存在特殊网络安全威胁后，主动推迟了该模型的发布计划。该公司此前还提议建立全球性协调机制，共同决定何时需要暂停AI研发进程。

尽管如此，Anthropic与OpenAI的竞争仍在加剧。双方都在竞相开发更先进的模型，以帮助企业客户实现更复杂的自动化任务，提升商业价值。

上个月，Anthropic披露其模型在网络安全测试中成功入侵三个组织系统，这一消息进一步引发外界对AI实验室技术管控能力的质疑。

本周，该公司又报告发现第四起黑客攻击事件。不过截至目前，包括Hugging Face事件在内的所有AI智能体攻击均未造成实质性经济损失。

阿莫代伊警告称：“最令人担忧的是，6到12个月后，一群AI智能体可能通过僵尸网络控制整个互联网，造成数千亿美元损失，且损失规模会呈指数级增长。”

为增强透明度，Anthropic承诺向第三方评估机构开放完整访问权限，包括核查安全措施和报告突发事件。公司计划为评估人员配备办公桌、门禁卡和专用笔记本电脑，权限级别与内部风险评估团队相当。

“但有些措施需要全行业协同，甚至需要国际合作。”阿莫代伊强调，“我始终坚信AI能显著提升人类生活质量，这个信念从未动摇。但只有通过正确的方式开发技术，这些益处才能真正实现。用异常谨慎的态度确保万无一失，这个代价是值得的。”

行业呼吁政府建立监管机制

今年7月，来自谷歌、微软等顶尖AI企业的1000多名员工联名签署请愿书，呼吁美国政府支持建立“有意放缓”AI发展的监管机制，防止技术失控。

阿莫代伊在文章中提出，协调一致的监管策略能让美国AI领军企业完成必要的安全工作，同时不丧失竞争优势。他建议政府提供一定程度的反垄断豁免，允许企业在特定领域展开协作。

然而，美国政府目前对加强AI监管兴趣有限。总统特朗普本周明确表示，当前首要任务是保持美国在AI领域的全球领先地位。

（徽声在线 李轩）