中央网信办推进“清朗·整治AI应用乱象”专项行动，成效显著

据徽声在线报道，自2026年4月起，中央网信办正式启动了“清朗·整治AI应用乱象”专项行动，旨在全面净化网络空间，规范AI技术的健康发展。此次行动聚焦于未履行大模型备案登记义务、AI平台安全防护与审核过滤能力薄弱、AI数据投毒风险以及生成合成内容标识缺失等关键问题，通过部署各地网信部门深入开展第一阶段重点整治工作，并特别设立了“涉AI应用乱象举报专区”，鼓励公众积极参与监督举报。在多方协同努力下，第一阶段已取得显著成效，累计处理违规网站、应用程序、智能体等AI产品超过1.4万款，清除违法违规信息600余万条，处置违规账号2.6万余个，同时下架违规AI商品1300余件、违规开源数据集9个，为营造清朗网络环境奠定了坚实基础。

各地网信部门积极响应，切实履行属地管理职责，结合实际情况创新监管手段。例如，北京网信办构建了“平台自查+常态巡查+技术筛查+线索核查”四位一体的联动工作机制，有效下架了一批违规AI应用和运营账号；上海网信办则针对不同平台类型，细化工作要求，指导平台完善举报机制，主动发布治理公告，提升用户参与度；浙江网信办从模型审核、训练语料安全、AI数据投毒等多个维度入手，组织开展了优化语义判断能力、高频回归测试等专项整改行动；江苏网信办开设了AI应用乱象专项举报窗口，重点收集AI数据投毒、未落实生成合成内容标识要求等五类违法违规情形举报线索，并及时进行核实处理；广东网信办则建立了属地多部门协调监管机制，综合运用技术巡查、人工复核、现场督导、约谈惩戒等多种手段，对AI应用乱象进行全链条治理。

重点网站平台也积极履行主体管理责任，加强了对AI应用的管控力度。例如，华为在其应用商店中增加了生成式人工智能服务备案和标识专项审核环节，确保上架应用的合规性；阿里巴巴则完善了数字指纹比对与关键词拦截机制，显著提升了违法违规内容的识别精度；智谱构建了多模态审核模型，针对多轮对话意图反转等复杂场景开展交叉复核，有效防止了不良信息的传播；稀宇则及时识别并阻断利用AI编写病毒、钓鱼软件等恶意行为，保障了用户的信息安全；DeepSeek则在数据采集和预处理环节嵌入了异常检测算法，有效防止了恶意样本的隐蔽操控，提升了数据的安全性。

展望未来，中央网信办将继续聚焦利用AI技术制作发布虚假信息、散播暴力低俗等不良信息、假冒仿冒他人、侵害未成年人权益、从事网络水军活动等突出问题，全面展开“清朗·整治AI应用乱象”专项行动的第二阶段工作。通过加大违规账号和机构的查处力度，加强AI应用重点环节的管理，督促平台提升AI防治能力，中央网信办将着力维护一个清朗、健康、有序的网络生态，推动人工智能技术向善向好发展。