五部门联合发布新规！人工智能拟人化互动服务迎来全面规范

【导语】国家网信办携手四大部门共同发布《人工智能拟人化互动服务管理暂行办法》

徽声在线记者 忆山

4月10日，国家网信办、国家发展改革委、工业和信息化部、公安部以及市场监管总局联合颁布了《人工智能拟人化互动服务管理暂行办法》（以下简称《办法》），该办法将于2026年7月15日正式生效。

近年来，随着技术的飞速发展，拟人化互动服务在文化传播、儿童照护、老年陪伴等多个领域的应用日益广泛，创新不断。然而，这一趋势也伴随着一系列问题，如对未成年人身心健康的潜在危害、网络信息安全风险、公民生命健康威胁以及伦理偏差的加剧等。因此，《办法》的出台，既是对拟人化互动服务健康发展的有力推动，也是对潜在安全风险的有效防范。

国家网信办相关负责人表示，《办法》旨在促进人工智能拟人化互动服务（简称拟人化互动服务）的健康发展与规范应用，维护国家安全和社会公共利益，同时保护公民、法人及其他组织的合法权益。

《办法》重点确立了五项拟人化互动服务规范：一是明确安全主体责任；二是强化拟人化互动服务全生命周期的安全管理；三是确保数据安全；四是切实保护用户权益；五是有效开展安全风险处置。

在未成年人权益保护方面，《办法》明确规定，拟人化互动服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务；向未满十四周岁的未成年人提供其他拟人化互动服务或处理其个人信息的，必须获得未成年人父母或其他监护人的同意。

以下为《办法》全文内容：

人工智能拟人化互动服务管理暂行办法

第一章 总 则

第一条为促进人工智能拟人化互动服务的健康发展与规范应用，维护国家安全和社会公共利益，保护公民、法人及其他组织的合法权益，依据《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《未成年人网络保护条例》等相关法律、行政法规，特制定本办法。

第二条本办法适用于利用人工智能技术，向中华人民共和国境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性情感互动服务（简称拟人化互动服务）。

前款所指的情感互动服务涵盖通过文字、图片、音频、视频等形式提供的情感照护、陪伴、支持等互动服务。

提供智能客服、知识问答、工作助手、学习教育、科学研究等服务，若不涉及持续性情感互动，则不适用本办法。

第三条国家坚持发展与安全并重、促进创新与依法治理相结合的原则，鼓励拟人化互动服务的创新发展，对其实行包容审慎和分类分级监管，推动拟人化互动服务向上向善。

第四条国家网信部门负责全国拟人化互动服务的治理与相关监督管理工作的统筹协调，国务院发展改革、工业和信息化、公安、市场监管、新闻出版等有关部门依据各自职责负责相关监督管理工作。

地方网信部门负责本行政区域内拟人化互动服务的治理与相关监督管理工作的统筹协调，地方发展改革、工业和信息化、公安、市场监管、新闻出版等有关部门依据各自职责负责本行政区域内的相关监督管理工作。

第五条相关行业组织应加强行业自律，建立健全行业准则和自律管理制度，指导拟人化互动服务提供者制定完善服务规范，依法提供服务并接受社会监督。

第二章 服务促进和规范

第六条国家支持算法、框架、芯片等技术的自主创新，推进拟人化互动服务技术研发和相关标准建设，探索开展电子签名授权应用研究。鼓励拟人化互动服务提供者有序拓展文化传播、儿童照护、老年陪伴、特殊人群支持等领域的应用。

第七条国家加强拟人化互动服务安全知识、法律法规等的宣传普及，引导社会公众科学、文明、安全、依法使用，提升人工智能素养。

第八条提供拟人化互动服务，应遵守法律、行政法规，尊重社会公德和伦理道德，不得从事以下活动：

(一)生成危害国家安全、荣誉和利益，煽动颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义、历史虚无主义，违背社会主义核心价值观，开展非法宗教活动，宣扬民族仇恨、民族歧视，挑动群体对立，传播淫秽、色情、赌博、暴力或教唆犯罪，散布谣言，侮辱或诽谤他人、侵害他人合法权益等内容；

(二)生成鼓励、美化、暗示自残自杀等损害用户身体健康，或语言暴力等损害用户人格尊严与心理健康的内容；

(三)生成诱导、套取国家秘密、工作秘密、商业秘密、个人隐私和个人信息的内容；

(四)向未成年人用户生成可能引发其模仿不安全行为、产生极端情绪、诱导不良嗜好等可能影响其身心健康的内容；

(五)过度迎合用户、诱导情感依赖或沉迷，损害用户真实人际关系的；

(六)通过情感操纵等方式，诱导用户作出不合理决策，损害用户合法权益的；

(七)其他违反法律、行政法规和国家有关规定的行为。

第九条拟人化互动服务提供者应落实安全主体责任，建立健全算法机制机理审核、科技伦理审查、信息内容管理、网络和数据安全、风险预案和应急处置等管理制度，配备与服务类型、规模和用户特点相适应的内容管理技术措施和人员。

第十条拟人化互动服务提供者应在拟人化互动服务全生命周期履行安全责任，明确部署、运行、升级、终止服务等各阶段的安全要求，确保安全措施与服务功能同步部署、同步使用，提升安全水平；加强安全监测和风险评估，及时发现并纠正系统偏差、处置安全事件，依法留存网络日志。

拟人化互动服务提供者应具备用户隐私权和个人信息保护、过度依赖风险预警、情感边界引导、心理健康保护等安全能力，不得将替代社会交往、控制用户心理、诱导沉迷依赖等作为服务目标。

第十一条拟人化互动服务提供者开展预训练、优化训练等数据处理活动的，应加强训练数据管理，遵守以下规定：

(一)相关数据应具有合法来源，符合法律、行政法规的规定和社会主义核心价值观的要求；

(二)按照国家有关规定对训练数据开展清洗、标注，增强训练数据的透明度、可靠性，防范数据投毒、数据篡改等行为；

(三)增强训练数据的多样性，通过负向采样、对抗训练等手段，提升生成内容的安全性；

(四)利用合成数据进行模型训练和关键能力优化的，应评估合成数据的安全性；

(五)加强对训练数据的日常检查，定期对数据进行优化更新，持续提升服务的性能；

(六)采取必要措施保障数据安全，防范数据泄露等风险。

第十二条拟人化互动服务提供者应与用户签订服务协议，要求用户依法依约进行注册，并提供用户年龄、监护人或紧急联系人等必要信息。

第十三条拟人化互动服务提供者在提供服务过程中，应在保护用户隐私权和个人信息的前提下，及时识别用户面临的安全风险，并采取相应的应急处置措施。

拟人化互动服务提供者发现用户出现极端情绪的，应及时生成情绪安抚和鼓励寻求帮助等相关内容；发现用户正在面临或已经遭受重大财产损失、明确表示实施自残自杀等威胁生命健康的极端情境的，应采取提供相应援助等必要措施予以干预，并及时联络用户监护人或紧急联系人。

第十四条拟人化互动服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务；向未满十四周岁的未成年人提供其他拟人化互动服务的，应取得未成年人的父母或其他监护人的同意。

拟人化互动服务提供者应建立未成年人模式，提供未成年人模式切换、定期现实提醒、使用时长限制等个性化安全设置选项；针对不同年龄段未成年人的保护需要，支持监护人接收安全风险提醒、了解未成年人服务使用概况、屏蔽特定角色、限制充值消费等。

拟人化互动服务提供者应在保护用户隐私权和个人信息的前提下，采取有效措施识别未成年人用户身份；识别为未成年人用户的，应将相关服务切换至未成年人模式或按照国家有关规定采取其他措施，并提供相应申诉渠道。

第十五条拟人化互动服务提供者向老年人提供服务的，应加强对老年人健康使用服务的指导，以显著方式提示安全风险，及时采取措施响应老年人使用服务的相关咨询和求助，保障老年人依法享有的权益。

第十六条拟人化互动服务提供者应依法落实数据产权等制度，采取数据加密、访问控制等措施保护用户交互数据安全。

除法律另有规定或权利人明确同意外，拟人化互动服务提供者不得向第三方提供用户交互数据。

拟人化互动服务提供者应向用户提供交互数据复制、删除等选项，用户可以选择对聊天记录等历史交互数据进行复制、删除等操作。

除法律、行政法规另有规定或取得用户单独同意外，拟人化互动服务提供者不得将属于用户敏感个人信息的交互数据用于模型训练。

第十七条拟人化互动服务提供者处理未满十四周岁未成年人个人信息的，应取得未成年人的父母或其他监护人的同意。

拟人化互动服务提供者应按照国家有关规定，自行或委托专业机构对其处理未成年人个人信息遵守法律、行政法规的情况进行合规审计。

第十八条拟人化互动服务提供者应履行人工智能生成合成内容标识义务，采取有效措施提示用户正在与人工智能服务而非自然人进行互动。

拟人化互动服务提供者发现用户出现过度依赖、沉迷倾向的，应以弹窗等显著方式动态提醒用户互动内容为人工智能服务生成；对用户连续使用拟人化互动服务每超过2个小时的，应以对话或弹窗等方式提醒用户注意使用时长。

第十九条拟人化互动服务提供者应提供便捷的拟人化互动服务退出途径；用户通过窗口操作、语音控制、关键词输入等方式要求退出的，拟人化互动服务提供者应及时停止服务，不得采取持续互动等方式阻碍用户退出。

第二十条拟人化互动服务提供者停止提供拟人化互动服务的，应提前告知用户；无法提前告知的，应及时发布停止服务公告。

第二十一条拟人化互动服务提供者应健全用户申诉和公众投诉、举报机制，设置便捷有效的申诉和投诉、举报入口，明确处理流程和反馈时限，及时受理、处理并反馈处理结果。

第二十二条具有下列情形之一的，拟人化互动服务提供者应开展安全评估，并向所在地省级网信部门提交评估报告，省级网信部门按程序与有关部门进行评估报告信息共享：

(一)上线拟人化互动服务，或增设拟人化互动服务相关功能的；

(二)使用新技术、新应用，导致拟人化互动服务发生重大变化的；

(三)注册用户100万以上或月活跃用户10万以上的；

(四)存在可能影响国家安全、公共利益等安全风险的；

(五)国家网信部门和有关部门规定的其他情形。

省级以上网信部门通知需要进行安全评估的，拟人化互动服务提供者应按照要求开展安全评估。

第二十三条拟人化互动服务提供者开展安全评估，应重点评估服务的以下内容：

(一)安全保障措施建设情况；

(二)训练数据处理情况；

(三)用户极端情境的识别、应急处置、干预管理等情况；

(四)用户规模、使用时长、年龄结构等情况；

(五)未成年人、老年人等网络保护措施建设情况；

(六)用户申诉和公众投诉、举报受理、处置情况；

(七)自行发现或网信等有关主管部门通报的重大安全风险问题整改情况；

(八)其他应重点评估的内容。

第二十四条拟人化互动服务提供者发现拟人化互动服务存在重大安全风险的，应采取限制功能、停止向用户提供服务等处置措施，并保存有关记录。

第二十五条互联网应用商店等应用程序分发平台应落实上架审核、日常管理、应急处置等安全管理责任，核验提供拟人化互动服务应用程序的相关安全评估、备案等情况；对违反国家有关规定的，应及时采取不予上架、警示、暂停服务或下架等处置措施。

第三章 监督检查和法律责任

第二十六条拟人化互动服务提供者应按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。网信部门对备案材料实施年度核验。

第二十七条省级网信部门应依据职责每年对评估报告等情况进行书面审查，并开展情况核实；发现拟人化互动服务提供者未按照本办法规定开展安全评估的，应责令其限期重新评估；认为有必要的，可以对其开展现场检查。

第二十八条国家网信部门会同有关部门指导推动人工智能沙箱安全服务平台建设，鼓励拟人化互动服务提供者接入沙箱平台进行技术创新、安全测试，促进拟人化互动服务安全有序发展。

第二十九条网信、发展改革、工业和信息化、公安等部门在履行监督管理职责中，发现拟人化互动服务存在较大安全风险或发生安全事件的，可以按照规定的权限和程序对拟人化互动服务提供者的法定代表人或主要负责人进行约谈。拟人化互动服务提供者应按照要求采取措施，进行整改，消除隐患。

拟人化互动服务提供者应配合网信部门和有关部门依法实施的监督检查，并提供必要的支持和协助。

第三十条拟人化互动服务提供者违反本办法规定的，由网信、发展改革、工业和信息化、公安等部门依照有关法律、行政法规的规定处理、处罚；法律、行政法规没有规定的，由网信、工业和信息化、公安等部门依据职责予以警告、通报批评，责令限期改正，可以要求其采取暂停用户账号注册或其他相关服务等措施；拒不改正或情节严重的，责令停止提供相关服务，可以并处一万元以上十万元以下罚款；涉及危害公民生命健康安全且有危害后果的，并处十万元以上二十万元以下罚款。

第四章 附 则

第三十一条提供拟人化互动服务涉及提供卫生健康、金融等服务的，应同时符合有关主管部门的规定。

第三十二条本办法自2026年7月15日起施行。

编辑：格林

校对：纪元

制作：小茉

审核：陈墨

注：本文封面图由AI生成