DeepSeek回应模型内容异常：特殊字符引发幻觉，无安全隐患

5月19日，徽声在线获悉，DeepSeek官方正式发布了一份详细说明，针对近期用户广泛反馈的模型内容返回异常现象进行了公开回应。公司明确指出，这一异常现象是由特定特殊字符触发的模型幻觉所导致，与任何安全问题或用户隐私泄露无关。同时，DeepSeek承诺将采取一系列针对性训练措施，以优化模型性能，确保此类问题得到根本性解决。

DeepSeek官方说明

DeepSeek在声明中详细阐述了技术团队的排查过程与结果。经过全面而深入的分析，技术团队发现，当用户输入某些特定字符时，会触发模型返回异常内容，这被归类为特殊字符引发的模型幻觉。为应对这一问题，DeepSeek计划通过增强模型对特殊字符的识别与处理能力，修复已知问题，并进一步提升模型在复杂场景下的表现。

此前，多位用户在社交媒体和技术论坛上纷纷反映，在使用DeepSeek网页版时遭遇了内容异常。具体表现为，在新建的空白对话框中，仅输入特定字符后发送，模型并未报错或要求用户澄清，而是开始输出一段段看似完整、实则与当前对话上下文毫无关联的问答内容。这些内容广泛涉及数学解题、物理概念解释、线性代数、命理推演乃至教育学分析等多个知识领域。

这些异常回答的措辞方式高度结构化，频繁出现“我们被问到……”或“需要询问……”等书面化、第三人称的引导句式。更令部分用户担忧的是，在测试中还出现了涉及个人生辰八字等敏感信息的生成内容，这引发了用户对于“对话泄露”或“训练数据外泄”的广泛猜测与担忧。

针对这些担忧，DeepSeek技术团队明确将问题定性为“模型幻觉”。在人工智能领域，“幻觉”一词特指模型生成看似合理但事实上不正确或与输入无关信息的行为。此次事件中的特殊字符，在模型训练和内部推理过程中，很可能被误用作一种特殊的指令标记或分隔符，从而引导模型进入“思维链”推理模式。

当普通用户在前端对话界面意外输入此字符时，模型错误地将其识别为系统指令，进而触发了一种非预期的行为模式。模型可能试图补全一个它“认为”应该存在的、但用户并未实际提供的“问题”，并从其庞大的预训练语料库中随机抽取或生成一段结构化的问答内容进行输出。这一过程并非调取了其他用户的实时对话记录，而是模型基于其训练数据中的概率分布所进行的“无中生有”的补全。

为验证这一解释，有技术人员在完全断网的本地部署环境中成功复现了相同现象。这一实验从技术上彻底排除了“实时串入其他用户会话”的可能性。因为本地环境与外部网络及其他用户完全物理隔离，模型输出的内容只能来源于其本身内置的权重和参数。

“模型幻觉”问题已成为当前大语言模型行业普遍面临的技术难题。根据上海申银万国证券研究所今年1月发布的报告，大模型的幻觉主要包括无中生有、事实错误、语境误解、逻辑谬误等多种类型。其根源可能来自模型架构设计、训练数据质量、奖励目标设定以及上下文窗口限制等多方面因素。该报告预计，通过引入工程化手段如RAG（检索增强生成）技术，到2026年AI模型的幻觉问题将得到一定程度的有效控制，其在部分严肃场景下的可用性也将逐步提升。

然而，现实数据依然严峻。国际测评数据显示，大型语言模型的幻觉率差异巨大。在一般任务中，多数模型的幻觉率处于20%至27%的区间；但在法律、医疗等高风险领域，幻觉率可飙升至69%至88%。清华大学新闻与传播学院新媒体研究中心的一项评测也发现，市场上多个热门大模型的事实性幻觉率超过19%，这进一步凸显了解决模型幻觉问题的紧迫性。

更令人担忧的是，AI幻觉正从单纯的技术缺陷演变为系统性风险。《自然》《科学》等顶级期刊在今年4月初同时发声，警告AI大模型的“幻觉”缺陷正被系统化利用，用于批量生成带有伪造数据和“幽灵文献”的科研论文。这一行为对学术诚信构成了严重污染，也引发了学术界对AI技术应用的广泛反思与讨论。