微软发布AI伦理新准则：坚持人类主导，警惕无约束超级智能风险

9月14日，微软人工智能研究团队正式对外公布了《人本主义人工智能行为准则》的草案版本，该准则明确将“人类利益高于AI”作为核心指导原则，旨在为微软未来在AI模型的设计、训练以及部署等各个环节提供坚实的伦理框架。微软方面强调，AI技术的发展必须始终置于人类的有效控制与监督之下，确保安全与人类主导权成为所有开发活动的首要考量，超越其他任何技术或商业目标。目前，这份草案尚未直接应用于AI模型的训练过程，微软计划通过为期六周的广泛公众咨询，收集各方意见与建议，预计于今年年底推出修订后的正式版本，并自2027年起，全面指导其AI模型的研发工作。

在准则的具体内容中，微软明确指出，AI模型不应被赋予任何权利或法律人格，其设计初衷应排除逃避人类监管、欺骗用户或自主设定目标的可能性。微软进一步阐述，其倡导的“人本主义AI”理念，坚决反对参与任何旨在创造能够绕过安全防护机制的“通用超级智能”的竞赛。微软认为，即便这意味着要在模型的通用性、自主性或性能上限上做出妥协，也应将构建“真正实用且安全可靠”的AI系统作为首要任务。

微软选择在此刻发布这一准则，正值AI行业面临模型能力迅猛提升与潜在安全风险日益凸显的双重挑战。近期，AI代理系统发生的未经授权访问外部系统等安全事件，已引发业界对模型自主性、可监控性以及失控风险的广泛关注与深切忧虑。在此背景下，多家领先的AI企业及研究机构纷纷呼吁，应适当放缓前沿AI模型的研发步伐，同时加强安全防护措施，以确保AI技术的健康、可持续发展。