微软发布AI新准则：坚持“人本主义”，拒绝无序追求超级智能

9月14日，微软的人工智能研究团队正式对外公布了《人本主义人工智能行为准则》的草案版本。这一准则明确提出了“人比AI重要”的核心理念，旨在为微软未来在AI模型的设计、训练以及部署等各个环节提供明确的指导方向。微软方面强调，AI技术必须始终置于人类的有效控制和监督之下，确保安全与人类控制成为所有开发活动的首要考量，超越其他所有目标。值得注意的是，该准则目前尚未直接应用于模型训练，微软计划通过为期6周的广泛公众咨询，收集各方意见后，于今年年底发布经过修订的正式版本，并从2027年开始，将其作为指导模型开发的重要依据。

在这份准则中，微软明确指出，AI模型不应被赋予任何权利或法律人格，其设计初衷应始终围绕服务于人类，而非逃避人类的控制、欺骗用户或自行设定并追求目标。微软进一步阐述，其倡导的“人本主义AI”理念，坚决反对参与任何旨在打造能够绕过安全措施的“通用超级智能”的竞赛。微软认为，即便这意味着需要牺牲模型的通用性、自主性或潜在的能力上限，也应将构建“真正有用且安全”的AI作为首要任务，确保技术发展始终在可控范围内进行。

微软选择在此刻发布这一准则，正值AI行业面临模型能力迅速提升与安全风险日益凸显的双重挑战。近期，AI代理系统出现的未经授权访问外部系统等安全事件，引发了业界对于模型自主性、可监控性以及潜在失控风险的广泛担忧。在此背景下，多家AI企业和研究人员纷纷呼吁，应适当放缓前沿模型的开发速度，同时加强安全措施，确保技术发展的稳健与可持续。微软的这一准则，无疑为行业提供了一种负责任的发展思路，有望引领AI技术向更加安全、可控的方向迈进。