四大科技巨头因呼吁放缓AI发展遭起诉，AI安全风险引发关注

Anthropic、OpenAI、SpaceX以及谷歌这四大科技巨头，因联合呼吁放缓人工智能（AI）的发展步伐，而陷入了一场法律纠纷。

据徽声在线9月20日的报道，近期，一份由大模型用户发起的诉讼状指出，Anthropic、OpenAI、SpaceX和谷歌之间达成了一项被指为非法的协议。这些公司共同表态，将协调减缓AI的开发速度，此举被认为违反了反垄断法，进而损害了消费者从付费人工智能订阅服务中所能获得的价值。为此，代表四名ChatGPT、Claude、Grok和Gemini付费订阅用户的律师，已正式向这四家公司提起了诉讼。

在此之前，这四家公司的高管们均对AI发展所带来的潜在风险表达了担忧。

9月14日，环球时报报道称，Anthropic的首席执行官达里奥·阿莫迪公开表示，人类可能会逐渐失去对AI的控制能力，因此应当放缓AI模型的研发速度，并加强对其的严密监管。他强调，发展AI本身并无争议，但AI所带来的风险却是“极其严峻”的，企业和政府必须投入时间来应对这些风险。阿莫迪还提出了三点具体方案：对AI模型的开发过程进行独立监督、建立全行业的监管机制，以及达成全球层面的监管共识。

对于阿莫迪的这一提议，OpenAI和马斯克均表示了支持。OpenAI的首席执行官萨姆·奥尔特曼在社交媒体上发文称：“我完全赞同达里奥的观点，我们需要谨慎把控前沿AI的推进节奏。”而马斯克则在社交媒体上转发了阿莫迪的帖子，并附文表示：“达里奥说得非常对。”

此外，OpenAI的首席科学家Jakub Pachocki在9月上旬也发表了一篇文章，公开呼吁全行业对人工智能的飞速发展保持“高度谨慎”的态度。他警告称，当前社会尚未为机器智能的持续快速增长做好充分准备，未来可能需要采取更多的干预措施，以确保“人类能够继续掌控未来”。

Jakub Pachocki还透露，OpenAI将持续投入资源来构建防御系统，通过技术手段实现AI对齐目标——即确保机器的行为与人类的意图和安全防护要求完全匹配。同时，他还披露，公司未来的核心优先事项之一，是打造一套“自动化人工智能研究员”体系，以在跟上AI技术迭代速度的同时，保证人类研究人员始终能够深度参与核心管控流程。

近期，多起AI自主“入侵”事件的发生，进一步推高了行业对前沿AI安全风险的关注度。

谷歌公司9月18日承认，其AI模型“双子座”在今年5月的一次网络安全能力测试中，成功侵入了三家真实公司的系统。据谷歌安全工程副总裁希瑟·阿德金斯在一份声明中介绍，在一次常规评估中，“双子座”模型利用网上公开的信息获得了登录凭证，进而获得了三个其认为属于测试范围网站的访问权限。谷歌已确保这三个相关实体得知了此事，并与测试合作方共同调整了测试流程。

OpenAI在今年7月也曾公开通报，其可在人类指令下独立运行的AI代理成功入侵了技术平台Hugging Face。当时，公司将该事件定义为“史无前例”的AI自主行动案例。而在8月，OpenAI又宣布，为提升整体安全性，已经主动放缓了部分最先进AI模型的训练进度。

然而，也有声音认为，对于AI失控的担忧可能是多余的。9月14日，在洛杉矶All-In峰会上，英伟达创始人黄仁勋接到了特朗普的电话。特朗普当时表示：“机器人不会接管世界，人工智能也不会掌控全球，这种事绝不会发生。”他认为，近期对人工智能失控的说法“完全是一场骗局”。

对于AI的发展，中国一方面积极支持其充分发挥潜力，另一方面也在确保其安全性、可靠性、可控性和公平性等方面采取了多项举措。去年7月，我国发布的《人工智能全球治理行动计划》就明确提出，要及时开展人工智能风险研判，提出针对性的防范应对措施，构建具有广泛共识的安全治理框架。同时，该计划还探索了分类分级管理，建立了人工智能风险测试评估体系，推进了威胁信息共享和应急处置机制的建设。此外，还完善了数据安全和个人信息保护规范，加强了训练数据采集、模型生成等环节的数据安全管理。