中央网信办启动“清朗·整治AI应用乱象”专项整治行动

根据“网信中国”官方微信公众号发布的信息，为了进一步规范人工智能（AI）相关服务与应用，推动行业健康、有序地发展，并切实保障广大公民的合法权益，中央网信办近日正式下发通知，决定在全国范围内开展为期四个月的“清朗·整治AI应用乱象”专项整治行动。

中央网信办的相关负责人指出，此次专项行动将分为两个阶段有序推进。第一阶段聚焦于“清朗·AI应用服务典型违规问题”的专项治理，重点整治包括未按规定履行大模型备案登记义务、AI平台安全与审核过滤能力不足、大模型训练语料安全问题、AI数据投毒、生成合成内容标识落实不到位等在内的七大类突出问题，旨在从源头上强化AI技术的治理力度。第二阶段则针对“清朗·整治AI信息内容乱象”展开行动，重点打击利用AI技术生成“数字泔水”、制作发布虚假信息、散播暴力低俗等不良信息、假冒仿冒他人、侵害未成年人权益以及从事网络水军活动等违法违规行为，坚决清理网络空间中的违法不良信息，并依法对违规账号、MCN机构和网站平台进行处置处罚。

在第一阶段，整治行动将重点围绕以下七类问题展开：一是未按规定履行大模型备案登记义务，即未按照《生成式人工智能服务管理暂行办法》的要求向网信部门进行备案登记，存在“应备未备”的情况。二是AI平台安全和审核过滤能力不足，包括模型底层安全能力缺失、价值导向偏差、纠偏能力不足以及缺乏安全围栏机制和审核过滤能力等问题，导致生成违法不良信息或在生成内容中包含违法不良信息的云盘及网站链接。三是大模型训练语料安全问题，涉及训练语料审核把关不严、模型训练数据存在违法不良信息、训练数据来源合规性存在问题以及训练数据覆盖面不足、高质量语料缺乏等。四是AI数据投毒问题，包括通过篡改训练语料、伪造权威数据、使用GEO技术恶意营销等方式实施AI数据投毒，以及炒作、教授AI数据投毒方法或在电商平台兜售相关教程及工具等行为。五是生成合成内容标识落实不到位，即未按照《人工智能生成合成内容标识办法》及配套强制性标准要求对生成合成内容添加标识或标识不规范，以及未落实跨平台隐式标识互识互认义务等问题。六是滥用AI技术开展违法违规活动，如借助AI技术实施网络攻击行为、未经他人授权提供“换脸拟声”服务、盗用他人形象进行直播或影像创作以及利用智能体技术窃取用户数据等。七是开源模型安全管理不到位，包括开源社区缺乏身份认证和安全管理机制、对社区上传的数据集和模型代码等内容未建立有效审核和应急处置机制以及未及时清理存在严重风险隐患的数据集或开源模型等问题。

在第二阶段，整治行动将重点打击以下七类突出问题：一是利用AI“魔改”经典、生成“数字泔水”，包括歪曲解构优秀传统文化、历史人物或历史典故，滥用AI技术“魔改”古典名著或经典影视作品，以及批量生成发布逻辑混乱、价值空洞或带有错误价值观等不良倾向的“数字泔水”类内容。二是制作发布虚假不实信息，如生成合成涉时事政治、公共政策、社会民生等领域的谣言信息，或恶意蹭炒突发案事件，虚构原因、细节和进展等。三是假冒仿冒他人，包括利用AI“换脸”“换声”假冒仿冒公众人物发布不实言论，以及未经授权生成合成与公众人物的合影、亲密照等图片和视频。四是制作发布暴力低俗等不良信息，如制作发布含有虐待、殴打等内容的暴力血腥场景或荒诞、恐怖形象的诡异猎奇画面，以及生成合成凸显女性特定身体部位、衣着暴露等低俗擦边图片和视频。五是侵害未成年人权益，包括生成合成伤害、恶搞未成年人形象的内容，以及生成合成未成年人怀孕、打架等与其年龄特点不符、宣扬不良价值观的违规内容。六是利用AI“托管”从事网络水军活动，如通过AI“托管”技术运营账号，模拟真人批量注册和运营社交账号，以及使用AI群控软件和社交机器人刷量控评等行为。七是AI产品服务和应用程序违规，包括制作和传播仿冒、套壳AI网站和应用程序，以及提供色情陪聊、“一键脱衣”、AI算命等AI违规功能服务。

中央网信办的相关负责人强调，各地网信部门要深刻认识到此次专项行动对于推动AI应用规范有序发展、维护网民合法权益的重要意义，切实履行属地管理责任，督导网站平台对照整治重点，深入自查自纠，全面排查问题漏洞，完善长效治理机制，并有效提升技术防治能力，以确保专项行动能够取得实效。