国家金融监督管理总局：严控AI风险，禁止生成虚假信息操纵市场

近日，国家金融监督管理总局正式出台了针对银行业与保险业人工智能安全开发及应用的一系列指导意见。该意见明确指出，金融机构需构建全面且健全的风险治理体系，将人工智能所带来的潜在风险全面纳入风险管理的整体框架之中。具体而言，金融机构应定期对人工智能应用过程中可能产生的风险以及所采取的管理措施进行全面、深入的评估与审查，确保风险可控。

在安全能力建设方面，指导意见强调，金融机构应着重推动模型算法、数据资源、基础设施以及应用系统等多个层面的安全能力提升。通过完善业务及风险管理流程，有效防范因模型生成结果不可靠而引发的风险，同时解决模型黑箱问题，确保关键业务流程中的责任能够清晰界定，避免出现难以追责的情况。

此外，指导意见还着重强调了数据安全、网络安全、个人信息与隐私保护以及业务连续性等方面的基础建设。金融机构需采取切实有效的措施，确保这些基础领域的稳固，以应对金融业务侧可能出现的各种风险，如投资策略趋同导致的市场波动加剧等。

尤为重要的是，指导意见明确严禁金融机构滥用人工智能技术生成虚假信息或操纵市场价格。这一规定旨在维护金融市场的公平、公正与透明，保护投资者的合法权益，促进金融市场的健康稳定发展。