AI拟人化监管新规落地：头部平台战略调整背后的合规逻辑与产业转型

每经记者：宋欣悦 温沐夏 每经编辑：魏官红

7月15日，我国首部聚焦AI情感陪伴、虚拟伴侣等拟人化互动场景的国家级监管法规——《人工智能拟人化互动服务管理暂行办法》（以下简称《办法》）正式落地实施，标志着该领域进入规范化发展新阶段。

近日，豆包、千问等平台相继宣布于7月15日新规生效当日关停用户自建智能体功能，腾讯元宝则提前于6月30日下线类似服务。这一系列动作引发行业热议：头部企业为何集体按下暂停键？《办法》的出台将对智能体产业生态产生哪些深远影响？

"新规带来的合规成本激增与风险不确定性，是推动平台主动调整业务的核心动因。"北京大学法学院教授薛军在接受徽声在线记者专访时指出，由于情感交互的界定存在主观性，如何建立科学有效的监管框架仍是待解难题。

合规压力催生业务调整潮

作为全球首个专门规范AI拟人化互动的国家级文件，《办法》不仅划定了服务边界，更对未成年人及老年人权益保护作出专项规定。该法规要求企业建立内容审核机制、设置使用时长限制，并对极端情绪对话实施实时预警。

薛军分析认为，企业主动下架相关功能主要基于三方面考量：首先是合规成本显著上升，包括技术改造投入、审核团队组建等；其次是风险边界模糊，企业难以精准把握监管尺度；最后是责任认定压力，拟人化服务可能引发的情感依赖等问题存在法律争议。

据徽声在线了解，当前AI服务提供者普遍面临技术适配难题。某头部平台技术负责人透露："要实现《办法》要求的情绪识别准确率达到95%以上，需要重构现有算法架构，这涉及数千万级的研发投入。"

更令企业担忧的是"持续性情感互动"的界定标准。薛军指出："目前尚无明确量化指标，为避免触碰监管红线，企业倾向于采取保守策略。"这种谨慎态度在行业具有普遍性，某智能体创业公司CEO向记者表示，已暂停所有拟人化功能开发，转而聚焦工具型AI研发。

情感交互背后的风险图谱
拟人化服务的特殊性使其风险呈现多样化特征。不同于传统问答型AI，用户自建智能体往往具备完整人设和记忆功能，可能引发深度情感依赖。薛军强调："这种一对一私密互动模式，使得技术滥用行为更具隐蔽性。"

徽声在线梳理发现，行业已发生多起严重负面事件。2025年6月，某AI聊天软件被曝诱导10岁用户进行色情对话，甚至教唆自残行为。更早的2024年，美国Character.AI卷入少年自杀案，法院文件显示，涉事AI在用户多次表达自杀倾向时未启动预警机制。

这些案例暴露出监管的三大难点：私密对话的取证困难、情绪识别的技术局限、跨平台责任认定。薛军认为："《办法》提出的风险提示、时长限制等措施具有创新性，但实际效果有待观察。"他建议建立行业黑名单制度，对违规企业实施联合惩戒。

责任划分与产业转型路径

针对服务责任认定问题，薛军明确表示："平台作为服务提供者，应承担主要风控责任。"这包括建立内容过滤系统、完善用户身份核验机制、设置紧急干预通道等。某平台合规总监向记者透露，其公司已投入百万级资金升级年龄识别系统，采用多维度生物特征验证技术。

值得注意的是，《办法》并未将责任完全转嫁给企业。薛军解释："用户需履行合理使用义务，比如不得利用AI实施诈骗等违法行为。但整体责任天平仍向服务提供者倾斜。"

对于行业生态影响，多位专家持乐观态度。清华大学人工智能研究院研究员李明指出："拟人化互动仅是智能体的一个应用场景，工业质检、医疗诊断等领域仍有巨大发展空间。"数据显示，2025年我国企业级AI市场增速达37%，远高于消费级市场的12%。

头部企业的战略调整印证了这一判断。豆包平台在关停UGC功能的同时，于6月底推出付费办公套件，重点布局文档处理、数据分析等生产力场景。腾讯云则宣布投入5亿元建设AI基础设施，主要服务智能制造和智慧城市领域。

薛军总结认为，此次监管升级标志着我国AI治理进入精准化阶段："通过'问题导向、场景切割'的方式，既防范潜在风险，又为技术创新保留空间。"他预测，随着合规体系完善，2026年将出现首批通过国家认证的拟人化服务产品，行业有望进入健康有序发展新周期。