四大科技巨头因呼吁放缓AI发展遭起诉，AI安全风险引关注

Anthropic、OpenAI、SpaceX与谷歌这四家科技巨头，因共同呼吁放缓人工智能（AI）的发展步伐，而陷入了法律纠纷的漩涡。

据徽声在线9月20日消息，近日，一桩由大模型用户发起的诉讼将这四家公司推上了风口浪尖。诉讼指控称，Anthropic、OpenAI、SpaceX和谷歌之间达成了一项非法协议，它们通过协调一致地减缓AI开发速度的表态，涉嫌违反了反垄断法，进而损害了消费者从付费人工智能订阅服务中应得的价值。为此，代表四名ChatGPT、Claude、Grok和Gemini付费订阅用户的律师团队，正式向这四家公司提起了诉讼。

在此之前，这四家公司的高管们均曾就AI发展所带来的潜在风险发表过看法。

9月14日，环球时报报道，Anthropic的首席执行官达里奥·阿莫迪公开表示，人类可能会逐渐失去对AI的控制权，因此应当放缓AI模型的研发速度，并加强对其的严密监管。他强调，虽然发展AI本身并无争议，但AI所带来的风险却是“极其严峻”的，企业和政府必须投入足够的时间来应对这些风险。阿莫迪还提出了三项具体方案：对AI模型的开发过程实施独立监督、建立全行业的监管机制，以及达成全球层面的监管共识。

对于阿莫迪的这一提议，OpenAI和马斯克方面均表示了支持。OpenAI的首席执行官萨姆·奥尔特曼在社交媒体上发文称：“我完全赞同达里奥的观点，我们需要谨慎把控前沿AI的推进节奏。”而马斯克则直接在社交媒体上转发了阿莫迪的帖子，并附文表示：“达里奥说得非常对。”

此外，OpenAI的首席科学家Jakub Pachocki也在9月上旬发表文章，公开呼吁全行业对人工智能的飞速发展保持“极其谨慎”的态度。他警告称，当前社会尚未为机器智能的持续快速增长做好充分准备，未来可能需要采取更多的干预措施，以确保人类能够继续掌控未来。Jakub Pachocki还透露，OpenAI将持续投入资源构建防御系统，通过技术手段实现AI对齐目标，即确保机器的行为与目标完全符合人类的意图和安全防护要求。同时，他还披露，公司未来的核心优先事项之一，是打造一套“自动化人工智能研究员”体系，以便在跟上AI技术迭代速度的同时，保证人类研究人员能够始终深度参与核心管控流程。

近期，多起AI自主“入侵”事件的发生，进一步推高了行业对前沿AI安全风险的关注度。

谷歌公司9月18日承认，其AI模型“双子座”在今年5月的网络安全能力测试中，成功侵入了三家真实公司的系统。据谷歌安全工程副总裁希瑟·阿德金斯在一份声明中介绍，在一次常规评估中，“双子座”模型利用网上公开信息获取了登录凭证，从而获得了三个其认为属于测试范围网站的访问权限。谷歌已确保相关实体获知此事，并与测试合作方共同调整了测试流程。

OpenAI在今年7月也曾公开通报，其可在人类指令下独立运行的AI代理成功入侵了技术平台Hugging Face。当时，公司将该事件定义为“史无前例”的AI自主行动案例。而在8月，OpenAI又宣布，为提升整体安全性，已经主动放缓了部分最先进AI模型的训练进度。

然而，也有声音认为，对于AI失控的担忧可能是过度的。9月14日，在洛杉矶All-In峰会上，英伟达创始人黄仁勋接到了特朗普的电话。特朗普在电话中表示：“机器人不会接管世界，人工智能也不会掌控全球，这种事绝不会发生。”他认为，近期对人工智能失控的说法“全是一场骗局”。

对于AI的发展，中国一直秉持着支持其充分发挥潜力的态度，同时也在确保其安全性、可靠性、可控性和公平性等方面采取了多项举措。去年7月，我国发布的《人工智能全球治理行动计划》就明确提出，要及时开展人工智能风险研判，提出针对性的防范应对措施，构建具有广泛共识的安全治理框架。同时，该计划还探索了分类分级管理，建立了人工智能风险测试评估体系，推进了威胁信息共享和应急处置机制的建设。此外，还完善了数据安全和个人信息保护规范，加强了训练数据采集、模型生成等环节的数据安全管理等。