AI换脸技术突破人脸识别防线！两男子盗取购物平台用户信息被判

“AI换脸”技术再次成为舆论焦点。据徽声在线10月25日报道，杭州市中级人民法院近期披露了一起典型案例，显示AI生成的动态视频已具备绕过人脸识别系统的能力。

这起案件中，两名犯罪嫌疑人通过互联网非法获取大量他人照片，利用深度学习算法生成包含点头、摇头、眨眼等动作的动态视频，并通过篡改手机相机数据的方式，成功突破了某购物平台的人脸核验机制，进而盗取用户账户内的个人信息。

央视知名主持人白岩松对此发表评论称，AI技术的进步不应成为侵犯他人权益的工具，更不能让技术滥用者从中获利。

据徽声在线此前报道，今年9月4日，杭州中院就一起涉及“AI换脸”的个人信息保护公益诉讼案进行公开审理并当庭宣判。

法院审理查明，被告人张某、王某通过非法渠道获取他人手机号码、头像照片及身份信息，利用“AI换脸”技术将静态照片转化为动态视频，伪造人脸识别认证过程，强行登录他人购物平台账号。他们不仅将用户的收货地址、购物车信息等敏感数据出售给第三方，还提供有偿的虚假实名认证服务，累计非法获利5857元。

技术分析显示，涉案的“AI换脸”系统通过深度学习算法提取照片中的人脸特征信息，经过大量训练后生成高度逼真的动态视频。该技术能够精准模拟人脸验证环节中的各种动作，如向左看、向右看、张嘴、眨眼等。犯罪分子通过在手机中安装虚拟相机应用，在平台调用摄像头进行人脸识别时，自动替换为预先生成的合成视频，从而绕过安全验证。

法院最终判决张某、王某在媒体上公开道歉，并支付公益损害赔偿金5857元。这笔款项将专项用于个人信息保护、人脸深度合成技术滥用治理等公益领域。

该案例充分证明，当前部分仍依赖传统活体检测技术的人脸识别系统，已难以有效防范AI生成视频的攻击。

随着AI技术的普及，技术门槛显著降低，利用AI合成明星、名人视频进行直播带货的现象日益猖獗，成为技术滥用的重灾区。

近日，演员吴越在微博发文强烈谴责：“一觉醒来，发现有人利用AI技术冒充我进行违法活动！这位‘花姐’你骗了多少人的钱？请立即退还！这种行为太恶劣了！！！”

根据吴越公布的视频证据，账号“花姐美肤日记”发布了一段以“吴越”形象出现的AI视频。视频开头是“吴越”的换脸直播带货画面，随后切换至吴越公开活动的真实视频，并配以“吴越”的声音称：“这个产品不是他们找我，是我主动找他们的……效果确实非常明显”。视频末尾还出现了疑似“邓亚萍”的带货片段，且视频中明确标注“含AI生成内容”。

此前已有多位公众人物反映遭遇类似问题。演员温峥嵘曾表示在直播间发现AI合成的自己，质问时却被立即拉黑；霍启刚在社交平台发文称自己的形象被AI盗用；演员靳东也遭遇过AI换脸诈骗，其形象被不法分子用于针对中老年群体的诈骗活动。

为应对AI技术滥用问题，最高人民法院于今年9月7日发布《最高人民法院关于依法审理涉人工智能纠纷案件的意见》，对利用AI侵害肖像权、名誉权、隐私权、声音权益等行为明确了责任追究标准。

《意见》第四条明确规定：未经同意利用AI技术处理自然人姓名、肖像等，生成可识别该自然人的虚拟数字形象并使用、公开的，构成对姓名权、肖像权等人格权益的侵害；未经同意使用自然人声音作为训练数据，模仿其音色、语调和发音风格生成可识别的合成人声的，构成对声音权益的侵害；操控虚拟形象、合成声音实施不当行为或发表不实言论、损害他人社会评价的，构成对名誉权的侵害，依法追究行为人的侵权责任。