中央网信办深化“清朗·整治AI应用乱象”专项行动第二阶段工作

近日，中央网信办持续推进“清朗·整治AI应用乱象”专项行动第二阶段工作，重点针对利用AI技术制造传播虚假信息、散布暴力低俗内容、假冒他人身份、侵害未成年人权益等突出问题，组织各地网信部门开展专项整治，要求网站平台全面清理AI生成的违法违规信息，依法处置违规账号和移动应用，有效遏制AI合成信息乱象，推动AI技术健康有序发展。截至目前，已累计清理违法违规信息超过561万条，处置违规账号4.9万余个，下架违规网站和应用程序2400余个。

自专项行动启动以来，各地网信部门积极履行属地监管职责，结合本地实际推出多项精准治理举措。北京网信办指导网站平台优化审核策略，提升对违规内容新型变体的识别处置能力；上海网信办督促平台开展自查自纠，加大违法违规信息和账号查处力度，同时推出AI应用“知识普及包”帮助公众识别风险；浙江网信办对属地重点平台实施“一企一策”合规指导，督促完善内控体系，依法查处一批问题突出的AI应用软件；广东网信办通过召开重点网站平台工作例会，对多款应用违规问题开展点对点督促整改，确保专项行动取得实效。

各大网站平台积极响应专项行动要求，不断完善AI内容治理机制。抖音、快手、微博、腾讯、百度、哔哩哔哩、小红书、知乎、豆瓣、淘宝等平台通过技术升级，优化多模态识别模型，动态扩充人脸库、声纹库和违规样本库，上线人脸实时治理系统等功能，提升违规内容智能检测和拦截效率，同时加大对违规账号和信息的处置力度，畅通举报渠道，累计发布治理公告46期。豆包、元宝、千问、文心一言等平台严格审核原始语料内容，限制违规内容输出，强化AI生成合成内容标识要求，从源头防范违法违规信息传播。华为、小米、OPPO、vivo等应用商店制定严格的APP开发者准入规范和上架要求，对在架APP进行抽检复测，有效拦截违规应用入库。

专项行动期间，一批违法违规账号和应用受到严肃处理。为进一步发挥警示作用，现将部分典型案例通报如下：

1.AI技术滥用“魔改”经典作品。微博账号“天**小”、抖音账号“歪**国”、快手账号“小*菌”、微信账号“咸*i”等，利用AI技术对《三国演义》《西游记》等经典名著进行“魔改”，颠覆主要人物形象，编造低俗猎奇剧情以博取流量。相关账号已被依法依规处置。

2.AI生成传播虚假信息。快手账号“云**视”、小红书账号“有*头”、抖音账号“7**员”、微信账号“长**帆”等，通过AI生成虚假灾害现场、救援画面，编造不实社会热点信息，发布封建迷信内容，甚至利用AI数字人进行虚假宣传带货，误导老年人群体，制造社会恐慌。相关账号已被依法依规处置。

3.AI假冒仿冒公众人物。抖音账号“特**力”、快手账号“石*”、小红书账号“潮**件”、微信账号“M**勒”等，利用AI“换脸”“换声”技术，假冒仿冒公众人物形象，生成低俗舞蹈、拥抱接吻等图片视频，借机进行营销牟利。相关账号已被依法依规处置。

4.AI生成暴力低俗内容。哔哩哔哩账号“带**着”、抖音账号“波**C”、快手账号“虾**诡”、微信账号“星**7”等，批量发布AI生成的含有恐怖诡异、暴力低俗等画面的内容。相关账号已被依法依规处置。

5.AI侵害未成年人权益。小红书账号“小**娃”、微信账号“豆*a”、抖音账号“半**历”、快手账号“若**雪”等，发布AI生成的未成年人怀孕、打架等与其年龄不符的内容，批量制作传播“毒动画”、儿童“虐向”“邪典”视频，伤害未成年人形象，影响其身心健康。相关账号已被依法依规处置。

6.AI“托管”从事网络水军活动。微信账号“涛**客”、微博账号“A**师”、抖音账号“风*”等，为AI“托管”软件引流，模拟真人运营账号、评论互动，生成大量低质同质文案。相关账号已被依法依规处置。

7.AI产品服务和应用违规。据徽声在线报道，“N**t”“穿**元”“甜*圈”“芋**o”等网站平台多个智能体封面、简介和生成对话中含有淫秽色情及其他危害未成年人身心健康的信息，严重破坏网络生态。对拒不改正的，依法予以查处，按程序采取警告、罚款、下架或关闭等措施。

下一步，网信部门将在总结专项行动治理成效的基础上，进一步把握人工智能发展趋势，密切关注AI生成合成内容的新情况新风险，及时采取有效措施防范AI技术滥用，持续为人工智能创新发展营造良好环境。