联合国秘书长警示AI失控风险：呼吁建立全球安全治理框架

徽声在线9月17日讯（编辑 林晓峰）联合国秘书长古特雷斯于当地时间周三向全球各国领导人发出郑重警告：当前人工智能（AI）技术的迅猛发展正催生一系列不容小觑的风险，国际社会绝不能放任AI安全领域陷入无序的逐底竞争。这一立场与美国前总统特朗普形成鲜明对比，后者曾公开表示现有监管框架已足够应对AI挑战。

在联合国大会即将于纽约召开前夕，古特雷斯透露AI监管议题将成为其与各国领导人双边会晤的核心议程之一。他强调，当前亟需建立跨国协作机制以应对技术失控风险。

在新闻发布会上，古特雷斯系统阐述了AI发展的双重性："当我们审视全球面临的复合型威胁时，必须正视AI技术引发的深层焦虑。这项技术既蕴含着变革性机遇，也潜藏着颠覆性风险。"

他进一步指出："AI在加速实现联合国可持续发展目标方面具有独特价值——从优化教育资源配置到强化医疗系统韧性，从提升气候建模精度到完善灾害预警体系，其应用场景正不断拓展。"

但古特雷斯同时警示："全球顶尖AI实验室的科学家们正在发出集体预警，他们担忧技术迭代速度已远超人类对潜在风险的认知能力。这种认知鸿沟可能引发灾难性后果。"

"保护公民免受技术伤害是政府的核心职责之一，这要求我们建立前瞻性的风险防控体系。"他特别强调，需要建立全球性的AI伦理审查机制，防止技术滥用导致人权危机。

随着公众对AI风险的关注度持续攀升，行业内部也出现分化。Anthropic公司前研究员Jacob Coxon上周公开辞职，直言"参与AI开发的核心团队普遍认为，这项技术可能在2030年前造成人类文明存续危机"。与此同时，OpenAI、DeepMind等科技巨头的高管也联名呼吁暂停训练更强大的AI系统。

特朗普周一在保守派智库演讲时则持相反观点，认为美国现有的《算法问责法》和联邦贸易委员会监管体系已形成有效约束，并质疑业界存在"技术恐慌症"。

古特雷斯长期倡导建立全球AI治理框架。2023年，联合国成立由39国专家组成的人工智能高级别咨询组，成员涵盖谷歌前CEO施密特、俄罗斯人工智能协会主席等跨领域人士。该机构已提交《AI治理路线图》建议草案。

据联合国消息人士透露，下周召开的第78届联大期间，安理会可能举行第二次AI专题辩论。2023年首次会议曾聚焦AI军事应用风险，此次讨论或将扩展至生物安全、网络攻击等新维度。

古特雷斯特别呼吁技术领先国家建立"AI安全对话机制"："中美欧等AI强国应率先制定技术标准互认协议，建立风险信息共享平台，避免陷入以降低安全标准换取市场优势的恶性竞争。这种短视行为可能引发全球性技术灾难。"

他最后强调："我们需要构建动态治理框架，既为AI创新保留空间，又要设立'红色警戒线'。当系统具备自主决策能力时，必须强制实施风险评估；当技术可能威胁人类生存时，应启动全球暂停机制。"

（徽声在线 林晓峰）