联合国秘书长警示AI失控风险：呼吁建立全球安全治理联盟

徽声在线9月17日消息（编辑 林晓峰）联合国秘书长古特雷斯于当地时间周三向全球各国领导人发出郑重警告：人工智能（AI）技术的迅猛发展正催生一系列不容小觑的风险，全球社会绝不能放任AI安全领域陷入无序的逐底竞争。这一立场与美国前总统特朗普的乐观态度形成鲜明对比，后者曾公开表示现有监管框架已足够应对挑战。

在联合国大会即将于纽约开幕前夕，古特雷斯透露，强化AI全球治理将成为其与各国领导人会晤的核心议题之一。他强调，当前亟需建立跨国协作机制以应对技术失控风险。

在新闻发布会上，古特雷斯指出："当我们审视全球面临的复合型威胁时，AI技术引发的伦理与安全争议正日益凸显。这需要国际社会以前所未有的紧迫感采取行动。"

他进一步阐述："AI的变革性潜力不容忽视——从加速实现联合国可持续发展目标，到革新教育医疗体系，再到增强气候危机应对能力，这项技术都可能成为关键推动力。"

但这位联合国领导人同时警告："越来越多参与AI核心研发的科学家发出警报，他们担忧技术迭代速度已远超人类对潜在风险的认知能力。这种发展失衡可能带来灾难性后果。"

"保护公民免受新兴技术伤害是政府的首要职责，这包括建立前瞻性的风险预警机制。"古特雷斯特别强调，需要建立全球性的AI安全监测网络。

近期公众对AI风险的担忧持续升温。Anthropic公司前研究员Jacob Coxon上周公开表示，其辞职决定源于"AI开发圈内普遍存在的末日共识——这项技术可能在2030年前对人类生存构成威胁"。与此同时，OpenAI、DeepMind等科技巨头的高管也联合呼吁设立技术发展"减速带"。

特朗普周一则持相反观点，他声称美国现有的《AI权利法案蓝图》等监管措施已形成有效约束，并质疑业界对技术风险的渲染存在夸大成分。

古特雷斯长期倡导构建全球AI治理体系。2023年，联合国成立的AI高级别咨询机构已吸纳39名跨领域专家，成员涵盖中美俄日等科技强国代表，其使命是制定《全球人工智能治理框架》。

据外交消息人士透露，在即将召开的联合国年度峰会上，安理会可能继2023年首次AI专题会议后，再次就技术军事化应用等议题展开辩论。多个成员国正推动制定《AI武器化禁令》。

古特雷斯特别呼吁技术领先国家："应当建立战略互信机制，通过共享漏洞数据库、统一安全评估标准等方式，防止陷入以降低安全标准为代价的恶性竞争。这种竞赛可能引发不可控的全球性危机。"

他最后强调："国际社会需要就AI治理达成新共识——既要为技术创新保留空间，又要建立动态风险评估体系。当AI系统具备自主决策能力时，必须预设多重安全阀和人工干预通道。"

（徽声在线 林晓峰）