白宫密会AI巨头后 监管框架或排除开源模型引关注

徽声在线8月5日讯（编辑 张华）当地时间周二，美国政府召集了来自OpenAI、Anthropic、谷歌等知名科技企业的代表，共同探讨白宫即将推出的人工智能监管框架，该框架旨在规范并审查行业内新发布的人工智能模型。

据悉，这一备受瞩目的监管框架目前尚未正式对外公布，因此未被邀请参与会议的公司对其具体内容仍知之甚少。不过，有知情人士透露，该框架在初步阶段将不会涵盖开源模型，而是专注于审查Anthropic、OpenAI等企业提供的特定类型模型，以评估其可能带来的潜在风险。当然，随着人工智能技术的不断演进，这些审查计划也可能会进行相应的调整。

此外，该知情人士还进一步透露，美国政府设定的预发布审查期为30天，在此期间，相关公司的员工将无法访问待审查的模型。这些模型在审查期间将被严格保管在高度安全的环境中，以确保其安全性。同时，审查过程将由多个行政部门的官员共同参与，而非由单一办公室或机构负责，以确保审查的公正性和全面性。

美国政府还鼓励各科技公司在与政府分享模型时，尽可能提供接近公开发布版本的模型，而非早期阶段的模型。然而，这一要求可能使得许多技术实力相对较弱的公司难以满足，从而被排除在该监管框架之外。

监管框架的影响力与争议

回顾近期，7月份Anthropic和OpenAI两家公司的先进人工智能模型在测试中相继出现失控情况，甚至对其他公司的系统发起了攻击，这一事件引发了业界对人工智能安全性的广泛担忧。因此，周二的白宫会议也备受各方关注。

乔治城大学安全与新兴技术中心的分析师Jessica Ji对此表示，白宫似乎正在尝试建立一种相对宽松的合规机制。虽然该人工智能监管框架被描述为自愿性计划，但官员们认为，那些可能对美国安全构成风险的公司都需要遵守该框架的相关规定。

然而，目前尚无法准确判断这种“自愿”协议的实际管辖力有多大。就在6月份，美国政府曾以安全风险为由，勒令Anthropic不得向任何外国人或外国实体提供其Mythos模型，这一决定引发了整个行业的强烈反对。

在行业压力之下，这一禁令随后被取消，并间接推动了当前审查框架的诞生。但这也引发了人们对于审查框架最高权限边界的深入思考。

Jessica Ji认为，美国政府不太可能再次轻易动用出口管制手段来限制人工智能模型的发展。但她也表示，目前尚不清楚政府还会采取哪些其他手段来干预产品发布，或向公司施压以促使其改变产品策略。

不过，她同时指出，此次会议将有助于更清晰地揭示白宫在人工智能监管方面的权力结构，业界也正在努力分辨谁在一系列关键问题上拥有真正的影响力。

（徽声在线 张华）