加州力推AI监管新框架 纽森倡议前沿模型配备“紧急关闭键”

徽声在线9月19日讯（编辑 林占牛）当地时间周五，美国加利福尼亚州州长加文·纽森正式签署了一项具有里程碑意义的行政命令，旨在全面应对人工智能（AI）技术迅猛发展所可能引发的各类潜在风险。该命令明确提出，将深入研究并推动一系列监管举措，其中包括要求AI企业为其最先进的模型开发“紧急关闭机制”，以确保在紧急情况下能够迅速切断AI系统的运行。

这一行政令的出台，正值纽森州长本周早些时候公开表示，他正在积极考虑针对AI安全问题采取更为强硬的进一步行动。他甚至提到，可能会召开特别立法会议，以回应近期AI研究人员发出的警告——该技术可能对人类构成“生存风险”，这一观点引发了社会各界的广泛关注和担忧。

纽森在解释其采取行政行动的原因时指出，联邦政府在AI监管方面的迟缓反应是他不得不独自行动的关键因素。他特别提到，前任美国总统特朗普曾将有关AI风险的担忧斥为“一场骗局”，并声称AI所需的唯一“护栏”就是像他这样高智商的总统来领导。

到了周五，纽森再次向特朗普政府及美国国会发出强烈呼吁，敦促他们采纳加州的AI监管框架，或者至少将加州现有的法规作为联邦AI监管规则的最低标准，以确保全国范围内的AI发展都能受到有效的监管和约束。

纽森强调：“联邦政府在建立任何形式的有效AI监督机制和问责体系方面已经彻底失职，这应该让每一位美国人都感到深深的警惕。尤其是在AI企业的首席执行官们自己都在呼吁加强监管的情况下，联邦政府的无所作为更是令人难以接受。”

他进一步阐述道：“我们不会坐视事态的发展而不采取行动。我们将加快推进建立实质性且负责任的AI监管体系，不能等到一切为时已晚才后悔莫及。我们会以审慎的方式推进这一进程，但同时也必须保持紧迫的速度，因为其中的风险实在太高，我们不能继续等待或拖延。”

纽森签署的这项行政命令还将推动加快实施本月刚刚通过的两项加州法案——SB 813和AB 1405。这两项法案主要涉及规范外部机构如何对AI程序进行安全评估，以确保AI系统的安全性和可靠性。

此外，该行政令还要求召集一支由行业专家、学者和法律人士组成的专家团队，并要求其在两个月内向加州提交一份全面的指导方案，研究如何进一步强化现有的AI安全和网络安全法律，以适应快速发展的AI技术。

专家组将重点考虑的一项方案是更新相关法案中对“关键安全事件”的定义，将模型失控、数据泄露等可能引发严重后果的情况纳入监管范围。例如，此前OpenAI的一款模型曾被曝入侵Hugging Face平台的事件，就可能被纳入此类安全事件的范畴。

另一项备受讨论的措施是针对前沿AI模型推出“紧急关闭开关”的强制要求。这一提案此前曾在美国国会提出，但遗憾的是，在参议院层面遭遇了阻碍，未能顺利通过。

然而，科技行业内部对于设置“关闭开关”仍存在分歧。部分人士认为，从技术角度来看，这一方案并不可行，可能会引发一系列新的问题和挑战。

人工智能公司Anthropic的首席执行官Dario Amodei此前曾因担忧AI带来的生存风险而呼吁放缓AI发展。他周一表示，虽然“关闭开关”可能是一个好主意，但它并不是解决问题的“万能方案”，还需要综合考虑其他多种因素。

据悉，纽森的加州州长任期将于2027年1月4日结束。目前，他尚未正式宣布参加总统竞选，但此前曾表示正在认真考虑这一可能性，引发了政治界的广泛猜测和关注。

（徽声在线 林占牛）