加州力推AI监管新框架 纽森倡导前沿模型配备“紧急关闭机制”

徽声在线9月19日讯（编辑 林占牛）当地时间周五，美国加利福尼亚州州长加文·纽森正式签署了一项具有里程碑意义的行政命令，旨在积极应对人工智能（AI）技术迅猛发展所带来的潜在风险与挑战。该命令不仅深入研究了包括要求AI企业为最前沿的模型开发“紧急关闭机制”在内的一系列创新监管方案，还标志着加州在AI监管领域迈出了坚实的一步。

这一行政命令的出台，正值纽森州长本周早些时候公开表示正考虑针对AI安全问题采取更为强硬的进一步行动之际。他提到，可能会召开特别立法会议，以回应近期AI研究人员发出的警告——该技术可能对人类构成“生存风险”，这一观点引发了社会各界的广泛关注和深思。

纽森在解释采取行政行动的原因时指出，联邦政府在AI监管方面的迟缓反应是他决定先行一步的关键因素。此前，美国前总统特朗普曾将有关AI风险的担忧轻描淡写地称为“一场骗局”，并声称AI所需的唯一“护栏”就是像他这样高智商的领导者来掌控。

到了周五，纽森再次强烈呼吁特朗普政府及美国国会能够采纳加州的AI监管框架，或者至少将加州现有的法规作为联邦AI监管规则的基准和最低标准，以确保全国范围内的AI发展能够在一个安全、可控的环境中进行。

纽森强调：“联邦政府在建立有效AI监督机制和问责体系方面的彻底失职，无疑应该让每一位美国人都感到深深的忧虑。特别是在AI企业的首席执行官们自己都在呼吁加强监管的背景下，这种失职显得尤为不可接受。”

他进一步阐述道：“我们不会坐视不管，任由事态发展。我们将全力以赴，加快推进建立实质性且负责任的AI监管体系。我们不能等到一切为时已晚才采取行动。我们会以审慎的态度推进，但同时也必须保持足够的紧迫感，因为其中的风险实在太高，不容我们继续等待或拖延。”

纽森签署的这项行政命令，将有力推动本月刚刚通过的两项加州法案——SB 813和AB 1405的加快实施。这两项法案主要涉及规范外部机构如何对AI程序进行安全评估，以确保AI技术的安全性和可靠性。

此外，该行政命令还要求召集一支由行业专家、学者和法律人士组成的专家团队，并要求其在两个月内向加州提交一份全面的指导方案，研究如何进一步强化现有的AI安全和网络安全法律，以适应快速发展的AI技术。

专家组将重点考虑的一项方案是更新相关法案中对“关键安全事件”的定义，将模型失控、数据泄露等严重情况纳入监管范围。例如，近期OpenAI的一款模型被曝入侵Hugging Face平台的事件，就可能被视为此类安全事件的典型案例。

另一项备受讨论的措施是针对前沿AI模型推出“紧急关闭开关”的强制要求。这一提案虽然此前曾在美国国会提出，但在参议院层面遭遇了阻碍。然而，纽森的行政命令再次将这一议题推向了前台。

不过，科技行业内部对于设置“关闭开关”仍存在分歧。部分人士认为，从技术角度来看，这一方案可能并不可行，甚至可能带来新的安全隐患。他们担心，一旦“关闭开关”被恶意利用或误操作，可能会导致AI系统的瘫痪或数据丢失等严重后果。

人工智能公司Anthropic的首席执行官Dario Amodei此前曾因担忧AI带来的生存风险而呼吁放缓AI发展。他周一表示，虽然“关闭开关”可能是一个值得探讨的好主意，但它并不是解决问题的“万能方案”。他强调，AI监管需要综合考虑技术、法律、伦理等多个方面，不能仅仅依赖一个简单的“关闭开关”来解决所有问题。

据悉，纽森的加州州长任期将于2027年1月4日结束。虽然他目前尚未正式宣布参加总统竞选，但此前曾表示正在认真考虑这一可能性。他的这一行政命令无疑为他在AI监管领域的领导力增添了浓墨重彩的一笔。

（徽声在线 林占牛）