银保AI安全开发新规出台：精细化管理高风险应用，严守个人信息保护防线

徽声在线记者 | 安震

6月18日，国家金融监督管理总局正式对外发布了《关于银行业保险业人工智能安全开发应用的指导意见》（以下简称《指导意见》）。据徽声在线了解，这是2026年首份专门针对金融行业人工智能安全开发领域的专项指导文件，标志着我国金融行业在人工智能应用方面迈出了规范化、安全化的重要一步。

在答记者问环节，有关司局负责人明确指出，该《指导意见》的出台，旨在积极响应国家“人工智能+”行动与“十五五”规划纲要的号召，针对当前部分金融机构存在的“为新而新、为用而用”的盲目跟风现象进行有力纠偏，引导金融业AI应用回归“务实高效”与“业务价值”的核心导向。

实施精细化高风险应用准入管理机制

《指导意见》详细阐述了金融机构在安全开发应用人工智能时应遵循的四大基本原则：

首要原则是坚持谁使用谁负责，明确金融机构作为金融服务提供者和人工智能技术使用者的主体责任，清晰界定人工智能开发应用各方的分工与权责义务，确保责任到人；

其次是坚持自主可控原则，强调金融机构在人工智能技术应用中应保持技术自主性和可控性，降低外部依赖风险；

再者是坚持务实高效原则，要求金融机构以提升业务价值为导向，科学规划人工智能开发应用的投入，实现成本与效益的有效平衡；

最后是坚持安全发展原则，严格遵循国家网络安全和信息化工作要求，确保网络安全、数据安全等各项法律法规制度得到全面落实。

此次《指导意见》的一大核心亮点，在于首次提出了精细化的高风险应用准入管理机制，并对“高风险应用场景”进行了明确界定。新规指出，涉及资金交易、资产评估、信贷审批、承保理赔、风险管理以及直接影响金融合约达成的场景，均被视为“高风险应用”。

针对这些高风险场景，新规要求必须经过机构风险管理委员会的严格批准；若面向公众或在高风险场景中使用生成式AI，则必须向金融监管总局或其派出机构进行报告；同时，在高风险应用的关键环节建立人工监督和干预机制，明确紧急停用及模型退出的条件。特别是在涉及关键决策时，必须设置人工复核节点，以确保决策的准确性和安全性。

一位国有大行软件开发领域的专家在接受徽声在线采访时表示，《指导意见》总体上保持了乐观而审慎的态度。他强调：“金融机构在应用人工智能时，应以安全为底线，不能完全依赖大模型做出的决策。指导意见中强调的‘谁使用谁负责’原则，以及在高风险环节强制建立‘人工监督和干预机制’，意味着一旦发生系统性偏差或算法歧视等问题，人工必须能够迅速‘熔断’并接管系统，形成责任链条的彻底闭环。”

外部引入的生成式人工智能模型需完成备案流程

《指导意见》还着重强调了稳妥探索人工智能技术研发和金融智能体建设的重要性。金融机构需对生成式人工智能模型实施严格的准入管理，全面评估模型的效能及安全合规性。对于外部引入的生成式人工智能模型，必须经过网信部门的备案流程，确保模型来源的合法性和安全性。

此外，《指导意见》还鼓励大型金融机构发挥示范引领作用，向中小金融机构输出人工智能技术和管理经验，助力中小金融机构提升技术应用水平。同时，支持中小金融机构加强协作，共同推进应用场景的落地实施。此外，还鼓励金融机构与人工智能产业加强协同合作，以金融应用促进产业创新发展，以产业成果反哺金融应用提质增效。

在数据安全与个人信息保护方面，《指导意见》划定了严格的红线。明确规定姓名、身份证号、手机号、银行卡号等个人信息和隐私数据不得用于生成式人工智能模型的训练和优化，以有效防止客户隐私泄露。同时，要求加强模型安全护栏建设，加强内容过滤及脱敏管理，严格管理外包过程中的数据安全，确保客户数据的安全性和隐私性。

此外，《指导意见》还要求金融机构加强人工智能开发应用中的网络安全管理，加强对抗攻击测试和输出验证，通过数据隔离、访问控制等措施提升模型部署的安全性。同时，持续监控模型行为，定期扫描、修补人工智能模型及相关系统组件的漏洞，确保系统的稳定性和安全性。

在人才培养方面，《指导意见》明确指出，要加强监管人才队伍建设。金融监管总局及派出机构应加强数字化、智能化培训，提升监管人员的数据分析和智能工具使用能力，着力培养复合型监管人才，以提升与人工智能技术复杂度相匹配的风险识别、监测和处置能力，为金融行业的稳健发展提供有力的人才保障。