联合国秘书长警示AI风险：全球需避免逐底竞争陷阱

徽声在线9月17日消息（编辑 李晓明）联合国秘书长古特雷斯于当地时间周三向全球各国领导人发出郑重警告，指出人工智能（AI）技术的迅猛发展正带来一系列不容小觑的风险，全球各国绝不能在AI安全领域陷入一场无序的逐底竞争。这一立场与美国前总统特朗普的观点形成了鲜明对比，特朗普曾表示，现有的监管框架已足够应对AI带来的挑战。

在即将于纽约召开的联合国大会前夕，古特雷斯透露，加强对AI的监管将成为他与各国领导人会晤时的重要议题之一。

在新闻发布会上，古特雷斯深入阐述道：“当我们审视全球面临的种种威胁时，AI技术的快速发展无疑引发了越来越多的担忧，我愿就此再分享几点看法。”

他进一步补充说：“AI技术蕴含着巨大的潜力，它能够加速可持续发展进程，提升教育学习效率，强化医疗卫生系统，增强应对气候变化的韧性，以及在更多领域发挥关键作用。”

然而，他也坦诚地指出：“越来越多的AI开发者正在发出警告，他们担忧AI的发展速度已经远远超出了我们对潜在风险的理解能力。”

“我们不能对人们的担忧视而不见，尤其是那些直接参与AI开发的研究人员所提出的警告。保护本国公民免受AI带来的威胁，是任何政府的首要责任。”古特雷斯强调道。

随着公众对AI潜在风险的担忧日益加剧，类似的警告声也愈发频繁。Anthropic研究员Jacob Coxon上周宣布辞职，部分原因是他认为“真正参与AI开发的人深信，这项技术有可能在本十年内对人类构成致命威胁”。与此同时，一些全球领先的AI公司高管也纷纷呼吁放缓AI技术的发展步伐。

特朗普则在周一表示，美国已经建立了完善的“护栏”机制，可以对AI公司进行有效监管，并追究其责任。他同时对业界高管的担忧表示了淡化态度。

古特雷斯长期以来一直致力于推动建立全球性的人工智能治理机制。2023年，联合国成立了一个由39名成员组成的人工智能高级别咨询机构，成员涵盖了科技公司高管、政府官员以及学者，来自美国、俄罗斯、日本等多个国家。

据多名外交官透露，下周全球领导人齐聚纽约参加联合国年度会议期间，联合国安理会也可能就AI问题举行会议。值得一提的是，联合国安理会曾在2023年首次就AI议题召开会议。

古特雷斯呼吁，在AI前沿领域拥有最强技术能力的国家应建立沟通和信息交流机制，并共同制定安全标准，以避免陷入一场逐底竞争。他警告说，否则这种竞争有一天可能导致全球范围内的巨大灾难。

他进一步表示：“我们需要形成共同的认识，在确保AI安全、有保障且负责任发展的同时，也要明确在AI系统能力不断增强的背景下，何时可能需要更强有力的安全措施，或者采取额外手段来应对潜在风险。”

（徽声在线 李晓明）