加州强化AI监管新举措 纽森力推前沿模型“紧急关闭机制”

徽声在线9月19日讯（记者 李晓明）美国加利福尼亚州州长加文·纽森于本周五正式签署了一项具有里程碑意义的行政命令，旨在全面应对人工智能（AI）技术迅猛发展所带来的潜在风险与挑战。该命令明确提出，将深入研究并推动一系列监管措施，其中包括要求AI企业为最先进的AI模型开发“紧急关闭机制”，以确保在必要时能够迅速切断其运行。

这一行政令的出台，正值纽森州长本周早些时候公开表示，他正在积极考虑针对AI安全问题采取更为强硬的行动。这包括可能召开特别立法会议，以回应近期AI领域内多位知名研究人员发出的警告——他们指出，AI技术可能对人类构成“生存风险”，这一观点引发了广泛的社会关注和讨论。

纽森在解释其采取行政行动的原因时指出，联邦政府在AI监管方面的迟缓反应是他不得不自行出手的重要原因。他提到，前任美国总统特朗普曾将有关AI风险的担忧斥为“一场骗局”，并声称AI所需的唯一“护栏”就是像他这样高智商的总统来领导。这种态度显然与当前AI技术发展的现实需求相去甚远。

到了周五，纽森再次强烈呼吁特朗普政府及美国国会能够采纳加州的AI监管框架，或者至少将加州现有的法规作为联邦AI监管规则的最低标准。他认为，加州在AI监管方面的先行先试，为全国乃至全球提供了宝贵的经验和借鉴。

纽森强调：“联邦政府在建立任何形式的有效AI监督机制和问责体系方面已经彻底失职，这应该让每一位美国人都感到深深的警惕。尤其是在AI企业的首席执行官们自己都在呼吁加强监管的情况下，联邦政府的无所作为更是令人难以接受。”

他进一步阐述道：“我们不会坐等事态自然发展，而是将加快推进建立实质性且负责任的AI监管体系。我们不能等到一切为时已晚才采取行动。我们会以审慎的方式推进，但同时也必须保持紧迫的速度，因为其中的风险实在太高，不能继续等待或拖延。”

纽森签署的这项行政命令还将推动加快实施本月早些时候通过的两项加州法案——SB 813和AB 1405。这两项法案主要涉及规范外部机构如何对AI程序进行安全评估，以确保AI技术的安全性和可靠性。

此外，该行政令还要求召集一个由多领域专家组成的团队，并在两个月内向加州提交一份全面的指导方案。这份方案将研究如何进一步强化现有的AI安全和网络安全法律，以应对不断变化的AI技术挑战。

专家组将重点考虑的一项方案是更新相关法案中对“关键安全事件”的定义，将模型失控、数据泄露等可能引发严重后果的情况纳入监管范围。例如，近期OpenAI的一款模型被曝入侵Hugging Face平台的事件，就可能被视为此类安全事件的典型案例。

另一项备受讨论的措施是针对前沿AI模型推出“紧急关闭开关”的强制要求。这一提案此前曾在美国国会提出，但在参议院层面遭遇了阻碍。然而，随着AI技术风险的日益凸显，这一提案的重新审视和推进显得尤为重要。

不过，科技行业内部对于设置“关闭开关”仍存在不同意见。部分人士认为，从技术角度来看，这一方案可能并不可行，甚至可能引发新的安全问题。他们呼吁在推进AI监管的同时，也要充分考虑技术的可行性和实际效果。

人工智能公司Anthropic的首席执行官Dario Amodei此前曾因担忧AI带来的生存风险而呼吁放缓AI发展。他周一表示，虽然“关闭开关”可能是一个好主意，但它并不是解决问题的“万能方案”。他强调，AI监管需要综合考虑多个方面，包括技术、法律、伦理等。

据悉，纽森的加州州长任期将于2027年1月4日结束。目前，他尚未正式宣布参加总统竞选，但此前曾表示正在考虑这一可能性。他的这一行政命令无疑为他在AI监管领域的领导力增添了新的筹码。

（徽声在线 李晓明）