从AI偷脸到大模型虚假输出：司法如何紧跟技术发展的步伐？

"在AI技术迅猛发展的当下，人机协同的创作模式已彻底颠覆了传统网络领域中内容提供与技术服务之间的明确界限。诸如AI换脸、大模型产生的幻觉内容、人机创作引发的侵权纠纷等新型法律问题，已无法简单地沿用旧有的避风港原则进行一刀切的裁决。"7月9日，在'2026第二十五届中国互联网大会'的智能时代司法挑战与应对圆桌论坛上，北京互联网法院立案庭（诉讼服务中心）副庭长王彦杰深刻剖析了当前行业面临的困境。

紧接着，王彦杰与杭州互联网法院政治部副主任王岩、广州互联网法院审管办（研究室）主任胡剑敏，就AI偷脸、虚拟人商业化应用、AI图文抄袭、大模型虚假信息输出等热点议题展开了深入的探讨与交流。

据徽声在线记者现场报道，AI工具的广泛应用极大地降低了侵权行为的成本，导致批量换脸、著作权侵权等案件频发，广州互联网法院近三年内受理的涉AI案件已接近700件。

这些案件普遍呈现出技术复杂难以解析、参与主体层次繁多、责任界定模糊不清等难题。那么，在技术日新月异的背景下，司法体系应如何既有效保护受害者的权益，又避免对创新活动造成不必要的压制呢？

图片来源：每经记者 温沐夏 摄

“偷脸”行为还是艺术创作？法律正面临“人机界限模糊”的新挑战

在圆桌论坛上，王彦杰分享的“春风案”引起了广泛关注。该案中，原告利用AI绘画软件，通过精心输入提示词并经过多轮修改，最终生成了具有独创性的图片，然而这些图片却被他人未经授权擅自使用。法院审理认为，原告对涉案图片享有著作权法所保护的权利，而被告未经许可使用这些图片，已构成侵权行为。这一判决明确了“AI仅为工具，人类创作者才是真正的创作主体”的核心原则。

然而，与确认“AI创作”权利相伴而生的，是日益严峻的侵权风险。

记者进一步了解到，近三年来，广州互联网法院受理的涉人工智能案件中，商业维权现象尤为突出。AI图文、短视频生成工具的普及，使得侵权成本大幅降低，批量抄袭、换脸商用等案件数量持续攀升。

“我总结了这些案件的特点，首先是参与主体多重且法律关系复杂。人工智能的运作涉及从数据训练到提示词输入，再到内容输出以及智能体化平台的调取等多个环节，执行任务过程中会涉及工具使用者、服务提供者等多层主体，甚至还包括内容平台。”胡剑敏指出，同时，技术解构难度大，算法黑箱、模型训练流程超出了传统法官的认知范围；此外，商业侵权行为呈现规模化趋势，AI工具使得批量侵权行为得以高效、低成本地实施，传统维权模式已难以应对。

突破“二分法”框架，从控制力与场景化角度重新界定责任边界

当AI换脸技术侵犯肖像权、大模型搜索输出误导性结论引发名誉侵权时，责任链条在用户、应用方、模型提供方之间应如何合理划分？

在论坛上，胡剑敏提及的广州互联网法院近期一起已生效的“AI幻觉案”颇具代表性。据介绍，当事人使用AI查询“某机构是否为正规机构”，AI给出的回答是“不是正规机构”。相关机构认为这一回答损害了其权益，因此向法院提起了诉讼。

法院在审查过程中发现，用户提出的问题属于封闭式问题，答案本应非黑即白，但“正规”一词的定义本身较为模糊。用户在输入提示词时，实际上已经对回答方向施加了一定的引导。

最终，法院认为输出结果与提示词结构之间存在密切关系，提示词的设计直接影响了答案的真实性和准确性，因此责任不能全部由服务提供者承担。

这一判决为用户敲响了警钟，提醒他们不能将一切责任都推给技术。胡剑敏表示：“从用户角度来看，在审查其注意义务时，除了要看用户是否存在规避平台审查的行为外，还要判断用户是否进行了误导性发问。”

对于服务提供者而言，责任划分也远非“技术中立”原则所能简单豁免。胡剑敏指出，在上述案件中，广州互联网法院考察了服务提供者的注意义务，主要包括数据来源是否可信、平台是否符合当前通行技术水平、输出结果是否存在人工干预等方面。

而在王彦杰看来，AI时代的人机协同创作模式已打破了传统网络“内容提供”与“技术服务”的二元结构。在具体侵权场景下，应兼顾服务提供者作为“内容生产者”和“平台服务者”的双重角色来认定责任。

为应对技术审理过程中的难点问题，胡剑敏透露，广州互联网法院目前正在尝试建立数字技术管理中心，预计将于8月底正式挂牌成立。该机构将区别于传统知识产权法院的技术调查官制度，专门负责解构数据训练、输出逻辑等专业化知识鸿沟。

三方达成的共识在于：责任分担必须紧密结合控制力度与过错程度。在AI换脸黑灰产业链中，不能因算法黑箱就让平台背负无限连带责任，同时也不能让用户以“机器自动生成”为借口逃避责任。

正如王岩所言，责任最终需综合考量侵权后果。若服务提供者已尽到注意义务则无需承担责任，且不能以技术不可操作或不可预知性为由推卸责任；而使用AI的当事人则必须为自己的不当输入与诱导发问承担不利后果，这才是智能时代司法定分止争的底层法理。