中央网信办重拳整治AI乱象 第二阶段行动成效显著

近日，中央网信办全面推进“清朗·整治AI应用乱象”专项行动第二阶段工作，重点聚焦AI技术滥用导致的虚假信息泛滥、暴力低俗内容传播、身份仿冒侵权、未成年人权益侵害等突出问题。各地网信部门通过强化技术治理、完善监管机制、压实平台责任等举措，集中清理AI生成的违法违规信息，依法处置违规账号和应用程序，有效遏制了AI合成内容乱象蔓延势头。据统计，专项行动开展以来已累计清理违法违规信息超561万条，关闭违规账号4.9万余个，下架违规网站和应用程序2400余个。

在属地治理层面，各地网信部门创新监管方式形成治理合力。北京网信办指导平台升级AI内容审核模型，重点提升对深度伪造、变体文本等新型违规内容的识别能力；上海网信办推出“AI应用风险知识包”，通过案例解析帮助网民提升鉴别能力，同时督促平台自查自纠；浙江网信办实施“一企一策”精准指导，对重点平台开展合规体检并建立长效内控机制；广东网信办通过工作例会制度，对存在突出问题的应用实施点对点整改督导，确保治理成效落地。

主流平台积极构建AI内容治理生态体系。抖音、快手、微博等头部平台通过优化多模态识别算法，动态扩充人脸库、声纹库和违规样本库，上线人脸实时拦截系统等技术手段，将违规内容拦截率提升至新水平。知乎、豆瓣等社区平台建立AI生成内容标识制度，要求所有合成内容必须添加显著标识。淘宝、京东等电商平台加强AI营销内容审核，严禁利用数字人进行虚假宣传。应用商店方面，华为、小米等企业制定严格的AI应用上架标准，通过抽检复测机制拦截违规应用入库，从分发环节筑牢安全防线。

专项行动期间，多类典型违规案例被依法查处。为强化警示效应，现将部分具有代表性的案例通报如下：

1. AI技术亵渎经典案例：微博账号“天**小”、抖音账号“歪**国”等通过深度伪造技术篡改《红楼梦》《水浒传》等名著情节，将经典人物形象低俗化改造，制造猎奇内容博取流量。此类账号已根据平台规则和法律法规予以封禁。

2. 虚假信息合成传播案例：快手账号“云**视”等利用AI生成虚假灾害现场视频，小红书账号“有*头”编造不实社会热点信息，抖音账号“7**员”通过AI数字人进行虚假宣传带货，这些行为严重误导公众认知，相关账号已被依法处置。

3. 身份仿冒侵权案例：抖音账号“特**力”等通过AI换脸技术冒充明星发布低俗内容，快手账号“石*”合成虚假亲密互动视频，这些行为侵犯他人肖像权并造成恶劣社会影响，涉事账号已全部关闭。

4. 暴力低俗内容传播案例：哔哩哔哩账号“带**着”等批量发布AI合成的恐怖血腥画面，抖音账号“波**C”传播含有暴力元素的动画视频，这些内容严重违反公序良俗，相关账号已被永久封禁。

5. 未成年人权益侵害案例：小红书账号“小**娃”等发布AI合成的未成年人怀孕、打架等异常内容，抖音账号“半**历”传播儿童邪典视频，这些行为严重危害未成年人身心健康，涉事账号已被依法追责。

6. 网络水军AI化案例：微信账号“涛**客”等为AI托管软件引流，通过自动化脚本生成大量低质评论，制造虚假流量。这种新型网络水军行为已构成不正当竞争，相关账号已被查处。

7. 违规AI产品服务案例：“N**t”“穿**元”等平台智能体存在大量淫秽色情内容，部分对话涉及诱导未成年人不良行为。监管部门已对涉事平台下达整改通知，对拒不改正的依法实施罚款、下架等处罚措施。

下一步，网信部门将持续完善AI内容治理体系，重点加强生成式人工智能监管技术研究，建立跨平台协同处置机制，同时推动行业自律公约制定，为人工智能健康发展营造清朗网络空间。