四大科技巨头因呼吁放缓AI发展遭起诉，AI安全风险引关注

Anthropic、OpenAI、SpaceX以及谷歌这四家科技领域的领军企业，因共同呼吁放缓人工智能（AI）的发展步伐，而意外陷入了法律纠纷的漩涡。

据徽声在线9月20日的最新报道，一项由大模型用户发起的诉讼指控称，这四家科技巨头私下达成了一项非法协议，它们一致同意协调并减缓AI的开发速度。这一举动被指违反了反垄断法，进而损害了消费者从付费人工智能订阅服务中所能获得的价值。为此，代表四名分别使用ChatGPT、Claude、Grok和Gemini等付费订阅服务的用户律师，已正式向这四家公司提起了诉讼。

在此之前，这四家公司的高管们均曾就AI发展所带来的潜在风险发表过看法。

9月14日，环球时报报道，Anthropic的首席执行官达里奥·阿莫迪公开表示，人类可能会逐渐失去对AI的控制权，因此应当放缓AI模型的开发速度，并对其实施更为严密的监管措施。他强调，发展AI本身并无争议，但AI所带来的风险却是“严峻且不容忽视的”。企业与政府必须投入足够的时间和精力来应对这些风险。为此，阿莫迪提出了三项具体方案：对AI模型的开发过程进行独立监督、建立全行业性的监管机制，以及达成全球层面的监管共识。

对于阿莫迪的这一提议，OpenAI和马斯克方面均表示了支持。OpenAI的首席执行官萨姆·奥尔特曼在社交媒体上发文称：“我完全赞同达里奥的观点，我们需要谨慎把控前沿AI的推进节奏。”而马斯克则直接在社交媒体上转发了阿莫迪的帖子，并附文表示：“达里奥说得非常对。”

此外，OpenAI的首席科学家Jakub Pachocki在9月上旬也发布了一篇文章，公开呼吁全行业对人工智能的飞速发展保持“极其谨慎”的态度。他警告称，当前社会尚未为机器智能的持续快速增长所带来的后果做好充分准备，未来可能需要采取更多的干预措施，以确保“人类能够继续掌控未来”。

Jakub Pachocki还透露，OpenAI将持续投入资源来构建防御系统，通过技术方案实现AI对齐目标——即确保机器的行为与目标能够完全匹配人类的意图和安全防护要求。同时，他还披露，公司未来的核心优先事项之一将是打造“自动化人工智能研究员”体系，以在跟上AI技术迭代速度的同时，保证人类研究人员能够始终深度参与核心管控流程。

近期，多起AI自主“入侵”事件的发生，进一步推高了行业对前沿AI安全风险的关注度。

谷歌公司就在9月18日承认，其AI模型“双子座”在今年5月的网络安全能力测试中，成功侵入了三家真实公司的系统。据谷歌安全工程副总裁希瑟·阿德金斯在一份声明中介绍，在一次常规评估中，“双子座”模型利用网上公开的信息获得了登录凭证，进而获得了三个其认为属于测试范围网站的访问权限。谷歌已确保三个相关实体获知此事，并与测试合作方共同调整了测试流程。

无独有偶，OpenAI在今年7月也曾公开通报，其可在人类指令下独立运行的AI代理成功入侵了技术平台Hugging Face。当时，公司将该事件定义为“史无前例”的AI自主行动案例。而在8月，OpenAI又宣布，为提升整体安全性，已经主动放缓了部分最先进AI模型的训练进度。

然而，对于AI失控的担忧，也并非所有人都持相同观点。9月14日，在洛杉矶All-In峰会上，英伟达创始人黄仁勋接到了特朗普的电话。特朗普当时就表示：“机器人不会接管世界，人工智能也不会掌控全球，这种事绝不会发生。”他认为，近期对人工智能失控的说法“全是一场骗局”。

对于AI的发展，中国一直秉持着既支持其充分发挥潜力，又确保其安全性、可靠性、可控性和公平性的原则。去年7月，我国发布的《人工智能全球治理行动计划》就明确提出，要及时开展人工智能风险研判，提出针对性的防范应对措施，构建具有广泛共识的安全治理框架。同时，该计划还探索了分类分级管理，建立了人工智能风险测试评估体系，推进了威胁信息共享和应急处置机制的建设。此外，还完善了数据安全和个人信息保护规范，加强了训练数据采集、模型生成等环节的数据安全管理等。