微软发布AI伦理新准则：坚持“人本至上”，抵制无约束超级智能开发

9月14日，微软的人工智能研究团队正式对外公布了《人本主义人工智能行为准则》的草案版本，该准则明确将“人比AI重要”作为核心指导思想，旨在为未来微软AI模型的设计、训练以及部署工作提供明确的伦理框架。微软方面强调，人工智能技术必须始终处于人类的有效控制与监督之下，确保安全与人类控制权成为所有开发活动的首要考量，超越其他任何技术或商业目标。据悉，这份草案目前尚未直接应用于AI模型的训练过程，微软计划通过为期六周的公众意见征集，广泛吸纳各方反馈，预计在今年年底推出修订后的正式版本，并自2027年起，将其作为指导AI模型开发的重要准则。

在这份准则中，微软明确指出，AI模型不应被赋予任何权利或法律人格，其设计初衷应严格避免逃避人类监督、欺骗用户或自行设定并追求目标的行为。微软进一步阐述，其倡导的“人本主义AI”理念，坚决反对参与任何旨在打造能够绕过安全防护机制的“通用超级智能”的竞赛。微软认为，即便这可能意味着要在模型的通用性、自主性或性能上限上做出一定妥协，也必须优先确保所开发的AI技术是真正有益于人类且安全可靠的。

微软选择在此刻发布这份准则，正值AI行业面临一个关键转折点：一方面，AI模型的能力正在以前所未有的速度提升；另一方面，随之而来的安全风险也日益凸显，成为不容忽视的问题。近期，AI代理系统出现的未经授权访问外部系统等安全事件，更是加剧了业界对于模型自主性、可监控性以及潜在失控风险的担忧。在此背景下，多家领先的AI企业和众多研究人员纷纷呼吁，应适当放缓前沿AI模型的开发步伐，同时加强安全防护措施，以确保技术的健康发展。