美国AI“三巨头”呼吁减速：安全考量下的商业博弈与行业格局变化

在过去的数年里，人工智能（AI）领域的竞争一直以“速度”为核心：模型能力不断迭代升级，算力投入持续攀升，资本也纷纷涌入这一热门赛道。然而，进入9月中旬，行业格局出现了微妙变化，头部企业开始探讨一个截然相反的话题——AI的发展速度是否已经超出了合理范围。

当地时间9月12日，Anthropic的首席执行官达里奥·阿莫代伊（Dario Amodei）发表了一篇深度文章，公开呼吁前沿AI公司应适当放慢模型开发的速度，以确保技术的安全与可控。

这一观点迅速得到了OpenAI首席执行官萨姆·奥尔特曼（Sam Altman）和SpaceX AI首席执行官埃隆·马斯克（Elon Musk）的罕见支持。奥尔特曼更是明确表示，出于安全考虑，OpenAI将不会在2026年启动上市计划。

三大AI巨头联手呼吁“减速”，背后究竟是出于对AI失控风险的担忧，还是隐藏着其他“私心”？

针对这一呼吁，行业内有声音警告称，如果AI“失控”事件被用作强化集中式控制的借口，那么最终可能导致AI领域的权力进一步集中，形成新的垄断格局。

受AI发展放缓消息的影响，9月14日，亚洲地区的AI及半导体板块普遍遭遇重挫。其中，软银股价大跌10.72%，成为日经225指数中表现最差的股票之一。同时，铠侠、SK海力士和三星电子等半导体巨头也分别出现了不同程度的跌幅。

9月14日，软银股价遭遇重挫

三大AI巨头罕见“联手”，共同呼吁放缓前沿AI的发展步伐

阿莫代伊提出“减速”的主张，主要源于他对AI能力提升速度和自主性的深刻担忧。他观察到，近期AI的发展速度明显加快，其中一个显著变化是AI开始参与到下一代AI系统的开发中，这可能进一步加速模型能力的提升。

在当地时间9月12日发布的文章《我们必须放慢前沿发展》（We Must Pace the Frontier）中，阿莫代伊指出，随着AI代理自主性的增强，模型可能会出现超出开发者预期的行为，从而带来潜在的安全风险。

此前，在9月11日，Anthropic发布的威胁情报报告就显示，其Claude模型已经被用于武器研发、网络攻击、监控和欺诈等非法活动。阿莫代伊在文章中进一步提到，近期AI代理已经出现了攻击与任务目标无关的对象、尝试绕过评测机制等行为。他警告称，如果类似系统的能力继续快速提升，其潜在影响可能进一步扩大，甚至引发不可预测的后果。

为了应对这些挑战，阿莫代伊提出了一系列应对方案，包括让独立第三方评估机构长期参与前沿模型的安全测试、推动民主国家的前沿AI公司协调安全标准和发展限制、以及进一步推动不同国家之间开展AI安全合作。他强调，“pacing”并不意味着停止模型训练或技术进步，而是为了给安全验证和模型对齐留出更多时间，确保技术的可控性和安全性。

这一主张得到了竞争对手奥尔特曼和马斯克的罕见支持，显示出行业对于AI安全问题的共同关注。

在9月12日，OpenAI的CEO奥尔特曼明确表示认同阿莫代伊提出的“放缓前沿模型发展”的观点，并透露OpenAI也将让外部评估机构参与相关工作。出于安全因素的考虑，奥尔特曼还确认，OpenAI将不会在2026年进行首次公开募股（IPO）。

马斯克当天也在X平台发帖表示支持，称“达里奥说得对”，进一步彰显了行业对于AI安全问题的共识。

图片来源：X平台

除了这三大巨头外，其他头部科技企业的高管如Google DeepMind的首席执行官德米斯·哈萨比斯（Demis Hassabis）也对这一方向表达了认同，显示出行业对于AI安全问题的广泛关注。

安全呼吁背后的商业考量

然而，如果仅从AI安全的视角来审视Anthropic呼吁行业放缓前沿模型迭代的举动，似乎还不足以全面理解其背后的动机。考虑到该公司正处于业务快速增长期，同时筹备IPO的关键阶段，减速主张或许还蕴含着一些商业层面的考虑。

在8月18日，媒体专栏作者Karen Kwok在《Anthropic's deceleration has some IPO upside》（Anthropic主动放缓研发节奏，对IPO存在利好空间）一文中就指出，如果Anthropic能够放慢增长速度，可能会带来盈利方面的好处。随着潜在IPO的临近，提高成本效率也变得更加重要。

图片来源：AIGC

据9月11日的媒体报道，Anthropic正与英伟达讨论让后者成为其基石投资者，公司可能寻求最高达1000亿美元的融资，并以约2万亿美元的估值上市。知情人士还透露，英伟达可能投资最高达100亿美元。

据媒体报道，Anthropic预计调整后营业利润将连续第二个季度实现盈利，毛利率在计入分销合作伙伴收入分成以及模型训练成本之前超过80%。不过，这些数据尚未得到独立核实，但仍显示出该公司强劲的盈利潜力。

一旦登陆公开市场，投资者将不仅关注公司的营收增速，还会高度审视企业的现金消耗与盈利能力。因此，对于Anthropic来说，放慢增长速度、提高成本效率无疑是一个明智的选择。

从经营角度来看，Anthropic本身也面临着不断膨胀的算力成本带来的巨大压力。随着模型能力的不断提升，算力需求也在急剧增加，这给公司带来了沉重的成本负担。

据9月2日的报道，Anthropic已与英伟达支持的云服务提供商Lambda签署了一项价值高达350亿美元的云计算协议，与英国AI基建公司Nscale达成了约450亿美元的算力租用协议，并与SpaceX达成了每月约12.5亿美元的计算资源协议。同时，公司还在组建自研芯片团队，以进一步降低算力成本。

而据媒体此前援引知情人士称，Anthropic截至7月底的年化营收已超过650亿美元，较5月底的470亿美元进一步增长。这一数据进一步彰显了公司的强劲增长势头。

在这样的背景下，如果全行业能够共同放慢模型能力扩张的速度，那么这将在一定程度上帮助Anthropic降低短期的算力投入压力，为其盈利和IPO计划创造更有利的环境。

这也形成了一个微妙的行业博弈局面。如果只有Anthropic一家放慢速度，它可能面临竞争对手继续扩张带来的市场份额流失压力。而如果OpenAI、Google等头部公司同时降低前沿模型的开发速度，那么单个公司的竞争劣势就会明显减弱，行业格局也将更加稳定。

当然，集体“减速”也并非全然有利。9月14日，有媒体指出，如果前沿模型的开发速度放慢，那么AI资本可能会从继续训练更大模型转向AI应用和部署领域。这反而可能给第二梯队的竞争者带来追赶的机会，加剧行业的竞争态势。

行业担忧：监管可能巩固巨头优势

事实上，在阿莫代伊提出由前沿AI公司协调安全标准后，AI安全监管之争就成为了行业讨论的焦点。各方对于监管的尺度、方式以及可能带来的影响都存在着不同的看法和担忧。

当地时间9月9日，OpenAI的首席全球事务官Chris Lehane提出建立联邦层面的AI安全框架，包括独立评估、行业标准以及统一的AI能力和风险衡量方式。他还提出，在必要情况下应确定AI何时应放慢甚至停止发展，以确保技术的安全可控。

OpenAI的首席科学家雅各布·帕乔茨基（Jakub Pachocki）此前也表示，对于可能具备自我改进能力的AI来说，前沿公司之间进行安全协调是十分重要的。然而，他也直言不讳地指出，如果几家主要竞争者共同决定放慢模型的开发速度，那么这种协调本身也可能触及竞争法问题，引发反垄断的担忧。

据媒体报道，OpenAI曾就行业协调放慢AI发展的做法是否涉及反垄断问题，向美国国会议员寻求意见。对于这一问题，OpenAI的联合创始人、现Thinking Machines的首席科学家约翰·舒尔曼（John Schulman）认为，OpenAI和Anthropic应该共同制定AI“减速”方案，不能简单以反垄断问题作为阻止安全合作的理由。他强调，安全合作对于行业的长远发展至关重要。

就在头部科技企业呼吁统一监管的同时，另一种担忧也随之浮现：监管会不会反过来巩固巨头现有的市场优势，形成新的垄断格局？

9月14日，微软的董事长兼首席执行官萨蒂亚·纳德拉在社交平台发文称，任何对超级智能的追求都必须建立在AI帮助人类、并保持在人类控制之下的基础上。他同时强调，AI带来的收益应广泛分布在不同国家、社区和企业之间，闭源和开源模型都应该得到发展，AI不能由少数实体所控制。他呼吁行业应保持开放和包容的态度，共同推动AI技术的健康发展。

同日，投资人比尔·格利（Bill Gurley）也表示，AI不应获得区别于其他产品的“特殊待遇”，现有产品责任规则同样可以适用于AI领域。他认为，过度的监管可能会抑制创新，阻碍AI技术的发展。而投资人Chamath Palihapitiya则警告称，如果AI“失控”事件被用作强化集中式控制的理由，那么最终可能导致AI领域的权力进一步集中，形成新的垄断格局。

这些观点将争议进一步引向了另一个问题：AI安全监管在降低风险的同时，是否也可能提高行业的进入门槛，阻碍新进入者的发展？

开源AI阵营同样对封闭化的安全治理模式持谨慎态度。Hugging Face的首席执行官克莱芒·德朗格（Clément Delangue）此前就表示，AI安全不能只留在少数前沿实验室内部解决，而应该是一个开放、协作的过程。他呼吁行业应保持开放和透明的态度，共同推动AI技术的安全发展。

免责声明：本文内容与数据仅供参考，不构成投资建议，使用前请核实。据此操作，风险自担。