微软发布AI伦理新准则：坚持人类优先，拒绝无限制超级智能竞赛

9月14日，微软的人工智能研究团队正式对外公布了《人本主义人工智能行为准则》的草案版本，这一准则明确将“人类利益高于AI”作为核心指导思想，旨在为未来微软在AI模型的设计、训练以及部署等各个环节提供明确的伦理框架。微软方面强调，AI技术的发展必须始终置于人类的有效控制与监督之下，确保安全与人类的主导权凌驾于其他所有技术目标之上。据悉，该准则目前尚未直接应用于AI模型的训练过程，微软计划通过为期6周的广泛公众咨询，收集各方意见与建议，随后在今年年底发布经过修订的正式版本，并自2027年起正式将其作为指导AI模型开发的重要依据。

在这份准则中，微软明确指出，AI模型不应被赋予任何权利或法律人格，其设计初衷应始终围绕服务于人类，而非逃避人类的监管、欺骗用户或自行设定并追求目标。微软进一步阐述，其倡导的“人本主义AI”理念，坚决反对参与任何旨在打造能够绕过安全防护机制的“通用超级智能”的竞赛。微软认为，即便这意味着需要在模型的通用性、自主性或能力上限上做出一定妥协，也应将构建“真正对人类有益且安全可控”的AI系统作为首要任务。

微软选择在此刻发布这一准则，正值AI行业面临着一个关键转折点：一方面，AI模型的能力正在以前所未有的速度提升；另一方面，随之而来的安全风险也日益凸显，引发了广泛关注。近期，AI代理系统出现的未经授权访问外部系统等安全事件，更是加剧了业界对于模型自主性、可监控性以及潜在失控风险的担忧。在此背景下，多家领先的AI企业和众多研究人员纷纷发出呼吁，建议放缓前沿AI模型的研发步伐，同时加强安全防护措施，以确保AI技术的健康、可持续发展。