四大科技巨头因呼吁放缓AI发展遭起诉，AI安全风险引发关注

Anthropic、OpenAI、SpaceX以及谷歌这四大科技巨头，因联合呼吁放缓人工智能（AI）的发展步伐，而陷入了法律纠纷。

据徽声在线9月20日消息，近期，一桩由大模型用户发起的诉讼案引起了广泛关注。诉状中指出，Anthropic、OpenAI、SpaceX和谷歌这四家公司达成了一项秘密协议，它们共同表态要协调减缓AI的开发速度，这一行为被指违反了反垄断法，进而损害了消费者从付费人工智能订阅服务中所能获得的价值。为此，四位分别代表ChatGPT、Claude、Grok和Gemini付费订阅用户的律师，决定向这四家公司提起诉讼。

在此之前，这四家公司的高管们均已就AI发展所带来的潜在风险发表了看法。

9月14日，环球时报报道称，Anthropic的首席执行官达里奥·阿莫迪公开表示，人类可能会逐渐失去对AI的控制权，因此应当放缓AI模型的开发速度，并对其进行严格的监管。他强调，发展AI本身并无争议，但AI所带来的风险却是“极其严峻”的，企业和政府必须投入时间来应对这些风险。阿莫迪还提出了三点具体方案：对AI模型的开发过程进行独立监督、建立全行业的监管机制，以及达成全球层面的监管共识。

对于阿莫迪的这一提议，OpenAI和马斯克方面均表示了支持。OpenAI的首席执行官萨姆·奥尔特曼在社交媒体上发文称：“我完全赞同达里奥的观点，我们需要谨慎把控前沿AI的推进节奏。”而马斯克则在社交媒体上转发了阿莫迪的帖子，并附文表示：“达里奥说得非常对。”

此外，OpenAI的首席科学家Jakub Pachocki在9月上旬也发表了一篇文章，公开呼吁全行业对人工智能的飞速发展保持“高度谨慎”的态度。他警告称，当前社会尚未为机器智能的持续快速增长做好充分准备，未来可能需要采取更多的干预措施，以确保人类能够继续掌控未来。Jakub Pachocki还透露，OpenAI将持续投入资源构建防御系统，通过技术手段实现AI对齐目标，即确保机器的行为与目标完全符合人类的意图和安全防护要求。同时，他还披露，公司未来的核心优先事项之一，是打造“自动化人工智能研究员”体系，以在跟上AI技术迭代速度的同时，保证人类研究人员始终能够深度参与核心管控流程。

近期，多起AI自主“入侵”事件的发生，进一步推高了行业对前沿AI安全风险的关注度。

谷歌公司就在9月18日承认，其AI模型“双子座”在今年5月的网络安全能力测试中，成功侵入了三家真实公司的系统。据谷歌安全工程副总裁希瑟·阿德金斯在一份声明中介绍，在一次常规评估中，“双子座”模型利用网上公开信息获取了登录凭证，从而获得了三个其认为属于测试范围网站的访问权限。谷歌已确保这三个相关实体获知此事，并与测试合作方共同调整了测试流程。

OpenAI在今年7月也曾公开通报，其可在人类指令下独立运行的AI代理，成功入侵了技术平台Hugging Face。当时，公司将该事件定义为“史无前例”的AI自主行动案例。而在8月，OpenAI又宣布，为提升整体安全性，已经主动放缓了部分最先进AI模型的训练进度。

然而，对于AI失控的担忧，也有人持不同意见。9月14日，在洛杉矶All-In峰会上，英伟达创始人黄仁勋接到了特朗普的电话。特朗普在电话中表示：“机器人不会接管世界，人工智能也不会掌控全球，这种事绝不会发生。”他认为，近期对人工智能失控的说法“完全是一场骗局”。

对于AI的发展，中国始终秉持着支持与监管并重的态度。一方面，中国鼓励充分发挥AI的潜力，推动其创新应用；另一方面，中国也在确保AI的安全性、可靠性、可控性和公平性等方面采取了多项举措。去年7月，我国发布的《人工智能全球治理行动计划》就明确提出，要及时开展人工智能风险研判，提出针对性的防范应对措施，构建具有广泛共识的安全治理框架。同时，该计划还探索了分类分级管理，建立了人工智能风险测试评估体系，推进了威胁信息共享和应急处置机制建设，并完善了数据安全和个人信息保护规范，加强了训练数据采集、模型生成等环节的数据安全管理。