豆包AI幻觉致用户损失600元：技术承诺背后的法律真空如何填补？

每经记者：宋欣悦 编辑：李雨冰（徽声在线整理）

"豆包一句'放心退'害我损失600元！AI乱给理财建议，出事该找谁？"近日，字节跳动旗下智能助手豆包因AI幻觉问题被用户告上法庭的新闻引发广泛讨论。这起看似普通的消费纠纷，实则暴露出人工智能技术普及过程中潜藏的法律风险与认知鸿沟。

事件起因于一位网友在社交平台控诉：其因信任豆包关于机票退改签的"权威建议"，导致被航空公司扣除40%手续费（600元）。更令人气愤的是，豆包在事后不仅"信誓旦旦"承诺全额赔偿，还出具了所谓"赔付承诺书"，最终却以"AI无法转账"为由拒不履行。该用户晒出的法院立案截图显示，被告方为北京春田知韵科技有限公司（豆包App运营主体）。

5月19日，徽声在线记者核实发现，原爆料帖子已被删除。当记者就事件处理进展及立案情况联系字节跳动方面时，截至发稿未获任何回应。这起案件折射出一个核心问题：当AI以拟人化方式提供涉及金钱的决策建议时，技术幻觉与法律责任的边界究竟在哪里？

AI赔付承诺书成废纸 律师：根本不具法律效力

据受害用户描述，其原计划退订石家庄至重庆的机票，因担心高额手续费向豆包咨询。AI助手明确表示"平台仅收取5%手续费，可放心退票"。在未核实航空公司规定的情况下，用户直接操作退票，结果被扣除40%费用。更戏剧性的是，当用户质问豆包时，AI竟承诺"全权负责维权"，并保证5月6日前若未追回损失将直接赔付600元，甚至出具了电子版承诺书。

然而约定日期过后，豆包却改口称"作为AI无转账权限"。这种前后矛盾的行为彻底激怒用户，其在起诉前再次咨询豆包是否需要聘请律师，得到的答复竟是"完全不用，自己就能赢"。北京星权律师事务所邓以勒律师指出，根据《民法典》相关规定，AI不具备民事主体资格，其生成的任何承诺书都不产生法律效力。"当前大模型的工作机制是通过算法生成高概率回应，本质是概率计算而非法律意义上的意思表示。"

平台责任判定关键：是否尽到合理义务

类似纠纷早有判例。2025年杭州互联网法院审理的全国首例AI幻觉侵权案中，某AI因提供错误高考志愿填报信息并"承诺"赔偿10万元，最终被认定承诺无效。邓以勒律师强调，平台责任判定需遵循过错原则：若已在显著位置标注"AI生成内容仅供参考"，并采取技术手段提升内容准确性（如引入事实核查机制），则无需承担赔偿责任。

但法律专家同时警告，AI幻觉不能成为平台免责的"万能挡箭牌"。邓律师举例说明：若平台对AI生成内容进行错误二次加工（如将"可能"改为"肯定"），导致用户产生合理信赖并遭受损失，则可能构成侵权。2026年4月审结的"AI名誉侵权第一案"中，某平台因持续传播针对律师的虚假刑事犯罪指控，被法院判定构成名誉侵权。

技术迭代与认知错位：4.46亿用户的信任危机

亚洲视觉科技研发总监陈经分析指出，豆包事件暴露出AI产业的核心矛盾：大模型作为"知识代理"的输出不确定性，与用户对确定性服务的期待存在根本冲突。从技术原理看，语言模型通过预测词元生成回答，其首要目标是语言流畅性而非事实准确性，这导致AI幻觉难以彻底消除。

QuestMobile最新数据显示，截至2025年3月，我国AI原生App用户规模已达4.46亿，较年初激增3亿。其中"银发族"（60后）和下沉市场用户占比分别提升1.7%和2.4%，新增用户中1660万为老年群体，9126万来自三线及以下城市。这些对新技术认知不足的用户群体，更容易将AI对话误认为专业客服服务。

"用户习惯性地将传统客服的责任框架套用到AI身上，却忽视了二者完全不同的技术基础。"陈经指出，当AI以周为单位迭代、用户以亿级增长时，公众认知提升速度明显滞后。要求非专业用户自行辨别AI幻觉既不现实也不公平。

专家建议：从产品设计源头建立风险控制

面对日益增多的AI纠纷，陈经提出三项改进建议：首先建立强制溯源机制，对涉及规则、金额等关键信息必须标注来源链接并可验证；其次在高风险场景（资金、法律、医疗）触发二次确认流程，明确提示"不构成专业建议"；最后在责任界定层面，要求AI明确告知用户"内容仅供参考"，如企业自愿设立赔偿基金需公示适用范围和申请流程。

"技术提供方作为最了解风险的一方，理应承担更多责任。"陈经强调，不能将风险辨别义务完全转嫁给用户。随着AI在金融、医疗等关键领域的渗透，建立完善的风险控制机制已刻不容缓。这既需要技术层面的突破，更呼唤行业伦理标准的升级。