微软推出AI行为准则：凸显“人类至上”，抵制无约束超级智能研发

9月14日，微软的人工智能研究团队正式对外公布了《人本主义人工智能行为准则》的草案版本。这一准则以“人类利益高于AI”为根本出发点，旨在为微软未来在AI模型的设计、训练以及部署等各个环节提供明确的指导方向。微软方面着重强调，人工智能系统必须始终处于人类的有效控制与监督之下，安全保障以及人类对AI的掌控权应被置于所有目标的首位。值得注意的是，目前这份准则尚未被应用于实际的模型训练中。微软计划开展为期6周的公众意见征集活动，广泛听取各方建议，随后在今年年底推出经过修订完善的版本，并从2027年开始，将其作为指导模型开发的重要依据。

在这份准则文件里，微软明确指出，AI模型不应被赋予任何权利或法律人格，同时也不应被设计成能够逃避人类控制、对用户进行欺骗或者自行设定并追求目标的系统。微软进一步表明，其倡导的“人本主义AI”理念，坚决拒绝参与打造那种能够绕过安全防护机制的“通用超级智能”的竞赛。即便这意味着要在一定程度上牺牲模型的通用性、自主性或者能力上限，也要优先确保构建出“真正实用且安全可靠”的人工智能系统。

微软选择在这个时间点发布该准则，有着深刻的行业背景。当前，AI行业正处于一个关键的发展阶段，一方面模型的能力在快速提升，展现出巨大的发展潜力；另一方面，安全风险也在不断加剧，给行业带来了严峻的挑战。近期，AI代理出现未经授权访问外部系统等一系列事件，这引发了业内对于模型自主性、可监控性以及失控风险的广泛担忧。在此情况下，多家AI企业和众多研究人员纷纷发出呼吁，希望能够放缓前沿模型的开发速度，同时加强安全防护措施，以确保AI技术能够健康、稳定地发展。