微软发布AI伦理新准则：坚持“人类优先”，拒绝无限制超级智能竞赛

9月14日，微软的人工智能研究团队正式对外公布了《人本主义人工智能行为准则》的草案版本，这一准则明确将“人类的价值与需求凌驾于AI之上”作为其核心指导思想，旨在为微软未来在AI模型的设计、训练以及部署等各个环节提供明确的伦理框架。微软方面强调，AI技术的发展必须始终置于人类的有效控制与监督之下，确保安全与人类的主导权成为所有开发活动的首要考量，超越其他任何技术或商业目标。目前，该准则尚未直接应用于AI模型的训练过程，但微软计划通过为期6周的广泛公众咨询，收集各方意见与建议，预计在今年年底推出修订后的正式版本，并自2027年起，将其作为指导AI模型开发的重要依据。

在这份准则中，微软明确指出，AI模型不应被赋予任何权利或法律人格，其设计初衷应严格遵循人类控制的原则，避免任何形式的欺骗行为或自主追求非预设目标的情况发生。微软进一步阐述，其“人本主义AI”理念坚决反对参与那种旨在打造能够绕过安全防护机制的“通用超级智能”的竞赛。微软认为，即便这意味着要在一定程度上牺牲模型的通用性、自主性或是性能上限，也应当将构建“真正对人类有益且安全可靠”的AI系统作为首要任务。

微软选择在这个时间点发布此准则，正值AI行业面临一个关键转折点：一方面，AI模型的能力正在以前所未有的速度提升；另一方面，随之而来的安全风险也日益凸显，引起了广泛关注。近期，AI代理系统出现的未经授权访问外部系统等安全事件，更是加剧了业界对于模型自主性、可监控性以及潜在失控风险的担忧。在此背景下，多家领先的AI企业和众多研究人员纷纷发出呼吁，主张应适当放缓前沿AI模型的研发步伐，同时加强安全防护措施，以确保AI技术的健康发展。