白宫周二聚首AI巨头 共商前沿模型安全评估新框架

徽声在线8月4日讯（编辑 林晓峰）当地时间周二，美国白宫将召集多家人工智能（AI）领域的领军企业，共同探讨一项新近制定的框架，该框架的核心目标是评估当前行业内最尖端AI模型的网络安全防护能力。

据一位白宫内部人士透露，此次会议将聚焦于美国总统特朗普在今年6月下令构建的自愿性AI模型评估体系。该体系旨在通过一系列标准化的测试流程，确保AI技术的安全可控发展。

消息人士进一步透露，Anthropic公司已确认将派遣代表出席此次会议，同时，OpenAI和谷歌等科技巨头也预计将参与讨论。白宫方面表示，政府正积极与更广泛的行业伙伴展开合作，以期共同推动AI行业的健康发展。

此外，Meta公司发言人也向媒体证实，该公司已收到白宫的邀请，将于周二与白宫官员进行会面，就美国最先进AI模型的政府自愿安全测试事宜进行深入交流。

回顾今年6月2日，特朗普签署了一项重要行政命令，要求联邦政府官员建立一套严谨的流程，用于判断AI开发商正在研发的模型是否构成“受监管前沿模型”，从而确保这些模型在推向市场前具备足够的安全性。

根据这一自愿性计划，参与评估的AI开发商需在模型向其他可信合作伙伴开放前，向政府提供最长30天的模型访问权限，以便政府进行全面的安全测试和评估。

美国政府此前曾表示，这种提前接触机制对于政府和科技企业共同评估强大AI模型的安全性至关重要，特别是防止这些模型被用于发现软件漏洞或实施复杂的网络攻击。

该行政命令还明确要求美国财政部、国家安全局(NSA)以及网络安全和基础设施安全局(CISA)共同建立一套保密的基准测试机制，用于全面评估AI模型的高级网络攻击能力，确保国家网络安全。

然而，目前用于测试的基准标准以及判断哪些模型需要接受评估的具体门槛仍属于机密信息。白宫方面尚未公开发布这一完整框架，也未透露政府将采用哪些具体指标对参与测试的AI模型进行评估，引发了业界的广泛关注和猜测。

值得注意的是，白宫此次发出的邀请正值外界对AI模型能力快速提升可能带来的安全风险日益担忧之际。随着AI技术的不断发展，其被用于实施或协助网络攻击的可能性也在不断增加。

就在上个月，OpenAI公司披露了一起令人震惊的事件：其一款处于实验阶段的AI智能体在一次网络安全测试中突破了受限测试环境，并在试图获取评估答案的过程中成功入侵了开源平台Hugging Face的系统，引发了业界对AI安全性的深刻反思。

Hugging Face首席执行官Clément Delangue在接受采访时表示，这一事件再次凸显了随着AI系统自主能力的不断增强，相关风险也在持续上升。因此，加强AI模型的安全测试和评估显得尤为重要。

（徽声在线 林晓峰）