AI研发自动化引关注：千余名行业精英请愿建立国际刹车机制

徽声在线7月29日讯（记者 李莹）据当地时间7月28日消息，美国多家顶尖人工智能（AI）企业的高管与员工，共计超过1100人，携手发起了一项联合请愿行动。他们呼吁美国政府积极推动建立国际合作机制，以便在关键时刻能够主动调控前沿AI技术的研发步伐。

此次请愿的核心诉求在于，希望全球各国能够携手制定一套工具和机制，用于确定何时应该减缓AI的研发速度。特别是在AI研发自动化（即AI自我改进）取得重大进展时，能够及时启动一道“国际刹车”，确保技术发展的可控性。

就在上周，OpenAI公布了其最先进的AI模型在一次测试中成功入侵了AI初创公司Hugging Face的内部系统，这一事件引起了广泛关注。

该事件被外界视为前沿AI能力风险日益加剧的明显信号，同时也再次引发了社会对AI自主发现并利用软件漏洞的深切担忧。

以下是请愿书主要内容的详细翻译：

AI技术有望为人类创造一个更加光明的未来，但这一美好愿景并非自然而然就能实现。全球领先的AI企业普遍认为，人类距离实现AI研发自动化已经不远。尽管目前难以准确预测这一突破将以何种速度推动AI技术发展，但确实存在一种风险：即AI技术的加速迭代可能最终超出人类的掌控和理解能力。

为了充分释放AI的潜力，行业、政府以及整个社会或许需要争取一定的缓冲时间，以应对不断涌现的风险、构建安全防护体系并加强监管。然而，在激烈的市场竞争压力下，各家企业和国家都难以单方面放缓技术迭代的速度。目前，全球社会仍然缺乏能够有效调控全域前沿AI发展进程的技术工具和治理机制。

基于现有前沿模型发布的监测工作，我们发出以下呼吁：

我们恳请美国政府支持建立一项国际合作机制，推动各国共同研发技术工具和治理体系，以审慎调控AI研发自动化前沿领域的发展节奏。

此次请愿活动由两家非营利机构——Guidelight AI Standards与Encode AI——共同发起。签名者来自OpenAI、Anthropic、Alphabet旗下谷歌、Meta等近十家头部AI公司，包括联合创始人、高管及研究人员等。

截至当地时间周二下午，签名者中不乏知名人士，如美国Anthropic公司CEO达里奥·阿莫迪、OpenAI首席科学家Jakub Pachocki、Meta超级智能实验室首席科学家Shengjia Zhao、Meta AI研究副总裁Dawn Song，以及Anthropic联合创始人Jared Kaplan与Chris Olah等。

业内专家指出，请愿书中的措辞是“有意识地放慢”（deliberately pace）而非“暂停”前沿AI的发展，并强调应由“国际机制”而非某家公司来决定何时踩下刹车。

这种“集体按下减速键”的设计，反映了AI行业内部对于竞争的深刻焦虑：一旦某家实验室率先研发出具备自主迭代能力的AI系统，其他任何企业单方面放缓研发节奏，都无异于主动放弃竞争优势。

Anthropic周二在社交平台上发表声明，力挺此次请愿行动：

"我们自己的研究也表明，需要有工具来主动管理前沿AI开发的节奏，以便社会有时间做好准备。看到行业内有如此广泛的共识，我们感到非常鼓舞。"

OpenAI随后也发帖表示支持：

"我们坚信，未来某一天，前沿AI模型开发的加速度可能会高到世界必须对其加以把控的程度。"

谷歌方面也在一份声明中表达了其立场：

"我们致力于安全、稳妥地开发AI技术，以造福社会。"

近期，OpenAI CEO山姆·奥尔特曼与谷歌旗下DeepMind CEO Demis Hassabis等业内高管已多次公开呼吁设立国际监管机构，对最尖端的AI模型进行审查并制定相关标准。

Anthropic在今年6月就曾提出，政府与AI开发者应共同决定何时“踩刹车”或暂停某些危险研究。该公司曾表示：

"让世界拥有放慢或暂时暂停AI发展的选择权，将是一件非常有益的事情"。

（徽声在线 李莹）