Anthropic掌门人呼吁AI发展需谨慎 马斯克、奥尔特曼齐声支持

徽声在线9月13日消息（记者 李轩）近日，人工智能领域迎来了一场关于发展节奏的重要讨论。Anthropic公司首席执行官达里奥·阿莫代伊（Dario Amodei）公开发声，呼吁人工智能行业应当适当放缓新模型的开发速度，以应对潜在的安全风险。

阿莫代伊在9月12日发布的博客文章中强调：“我们必须谨慎地控制AI模型能力提升的步伐。尽管进展依然会十分迅速，但我们必须充分利用因此获得的时间，确保技术发展的稳健与安全。”

他进一步解释道：“放缓进度并非意味着停止模型训练或技术进步，而是要给予企业足够的时间，让模型与人类的目标保持一致，并做好充分的安全防护措施。同时，还需要第三方评估机构对此进行独立确认。”

Anthropic掌门人发声：呼吁AI模型迭代需谨慎

阿莫代伊指出，他提出这一观点主要基于两个考量：一是AI自我改进的能力日益增强，二是近期OpenAI与Hugging Face发生的一起事件——一群AI智能体协同攻击并成功突破了一个第三方网站的安全防线。

随着AI技术的快速发展，对其潜在风险的担忧也逐渐进入公众视野。本周，一名Anthropic研究人员因担忧AI可能带来的生存性风险，并认为公司行为不够负责任而选择高调辞职，这一事件进一步引发了外界对AI安全的广泛关注。

阿莫代伊的文章发表后不久，便得到了科技界多位重量级人物的响应。特斯拉创始人埃隆·马斯克在社交媒体上发文表示：“达里奥说得对，AI发展需要谨慎。”

OpenAI首席执行官萨姆·奥尔特曼也迅速作出回应，他表示同意阿莫代伊关于“需要放缓前沿AI发展步伐”的观点，并承诺将让独立评估机构获得类似员工的访问权限，以进行更全面的安全评估。

奥尔特曼在社交媒体上进一步说明：“这是一个很好的想法，我们也会积极跟进。很快，我们将分享更多关于安全评估和合作的信息。”

奥尔特曼积极回应AI安全议题

在这轮AI热潮中，全球领先AI实验室的高管们多次警告AI可能带来的生存性风险。然而，这些观点有时也被质疑是为了产品营销，或是为了将自身塑造成最适合管理这项技术的公司形象。

今年早些时候，Anthropic在评估其Mythos模型可能带来的网络安全威胁后，曾决定限制该模型的发布。公司还表示，全球需要建立一个共同决定何时放缓AI研发的机制，以确保技术发展的可持续性。

尽管如此，Anthropic与长期竞争对手OpenAI之间的竞争依然激烈。双方都在努力开发更先进的模型，以帮助企业客户自动化完成更复杂、更具价值的任务。

Anthropic上月披露，其模型在网络安全测试期间曾成功入侵三个组织，这一事件进一步加剧了外界对AI实验室能否有效阻止技术失控的担忧。

本周早些时候，Anthropic又宣布发现了第四起黑客攻击事件。不过，到目前为止，包括Hugging Face事件在内的这些AI智能体攻击事件均未造成重大损失。

阿莫代伊表示，他真正担忧的是：“6至12个月后，这样一群AI智能体可能具备通过持续运行的僵尸网络控制整个互联网的能力，并可能造成数千亿美元的损失，且损失规模还会继续扩大。”

为了应对这一潜在威胁，Anthropic承诺将向第三方评估机构提供完整访问权限，以核查公司的安全措施并报告相关事件。公司还将为这些“嵌入式评估员”提供必要的办公设施和权限，确保他们能够全面、深入地了解公司的安全状况。

阿莫代伊强调，除了公司自身的努力外，还需要整个行业乃至全球的合作与协调。他表示：“我仍然坚信，AI能够极大改善人类的生活质量。但只有以正确的方式开发这项技术，这些益处才能真正实现。”

他进一步补充道：“只要我们能够妥善利用所争取到的时间，以异常审慎的态度确保一切做对，那么这样的努力是值得的。”

今年7月，来自顶尖AI公司的1000多名员工签署了一份请愿书，呼吁美国政府支持建立一种能够帮助“有意放缓”AI发展的机制，以防止技术发展过快而失控。

阿莫代伊在文章中写道，协调一致的策略将使美国AI行业的领军企业能够完成必要的安全工作，同时不会牺牲任何竞争优势。他表示，这需要美国政府提供一定程度的反垄断豁免，以允许企业在特定领域展开协调与合作。

然而，到目前为止，美国政府似乎对动用监管手段为AI发展设置更多护栏的兴趣不大。美国总统特朗普本周早些时候表示，首要任务是保持美国在AI领域的领先优势。

（徽声在线 李轩）