美科技巨头签署AI安全自律协议，强化前沿模型管控

当地时间9月29日，美国科技行业迎来一项重要举措——多家科技巨头企业的负责人在白宫共同签署了一份名为《白宫超级智能协议：前沿责任联合承诺》的协议文件。该协议的核心目标在于强化企业对前沿人工智能模型的安全管控力度，以应对日益复杂的人工智能安全挑战。

美国总统特朗普在签署仪式后，第一时间通过社交媒体平台“真实社交”对外公布了这份带有他本人签名的协议。此次参与签署协议的企业阵容强大，涵盖了谷歌公司首席执行官孙达尔·皮柴、Anthropic公司首席执行官达里奥·阿莫代伊、元宇宙平台公司首席执行官马克·扎克伯格、开放人工智能研究中心总裁格雷格·布罗克曼、太空探索技术人工智能公司创始人埃隆·马斯克以及英伟达公司首席执行官黄仁勋等行业领军人物。

依据协议内容，所有从事前沿人工智能模型训练与部署的企业，都必须构建一套完备的内部流程与管控机制，以此确保人工智能技术能够按照预设目标稳定运行。协议明确提出了企业需落实的四层管控与审查机制：首先，要建立内部管控和监测机制，防止模型以非预期的方式入侵或访问技术系统，保障系统的安全性和稳定性；其次，设立专门的内部团队，负责保障相关机制的有效运行，并对现有问题进行及时整改；再者，引入独立的外部审查或评估机构，对相关机制的运行情况进行独立评估，确保评估结果的客观性和公正性；最后，由董事会独立委员会负责监督，确保所有已识别的问题都能得到彻底整改。

协议还着重强调，企业需重点监测模型在网络安全、生物安全和化学威胁等领域的能力及相关风险，防止模型出现非预期的入侵或访问行为。此外，参与企业还将定期举行会商会议，共同研究制定相关的行业标准和规范，推动人工智能行业的健康发展。

特朗普在签署协议时表示，这份协议具有“道德约束力”，旨在引导企业自觉遵守相关规定。然而，有美国媒体指出，这些承诺均属于自愿性质，并非具有法律约束力的监管规定。同时，协议本身也并未列出违反承诺后政府将采取的执法或处罚机制。

值得一提的是，特朗普在当天还签署了一项行政令，要求联邦行政部门和机构在法律允许的范围内，将“人工智能”表述统一替换为“超级智能”，这一举措也引发了广泛关注。（央视新闻）