菲尔兹奖得主邓煜谈AI公司反蒸馏：不能双标，需遵循学术规范

徽声在线 10 月 27 日消息，根据潮新闻 10 月 26 日发布的报道，菲尔兹奖得主、芝加哥大学数学系知名教授邓煜在上周末举办的“知识分子”“赛先生”论坛上发表了主旨演讲，深入且系统地阐述了他对于 AI 时代下数学研究发展的独特思考。

邓煜指出，AI 相较于人类具有显著优势。一方面，AI 拥有近乎无限的知识储备，其知识面极为广泛；另一方面，AI 在尝试和试错过程中所付出的成本极低。然而，我们必须明确且坚定地秉持一个观点，无论是在数学研究领域，还是在其他任何事务当中，人类始终是核心主体；AI 仅仅是一种工具，是供我们人类用于开展研究等工作的辅助工具。

邓煜进一步认为，倘若将 AI 视为研究者，那么它就必须严格遵守学术规范。假如 AI 成功证明了一个极为重大的问题，按照合理的学术要求，就应当公布 AI 的思维链。但实际情况是，AI 公司普遍拒绝公布思维链，这显然与学术界的惯例背道而驰。“这家 AI 公司并不愿意遵循这一要求。在它们公布的所有证明成果中，仅有极少数真正公开了思维链，而在大多数情况下，它们都以所谓的防蒸馏作为借口，拒绝公布思维链及相关的重要信息。”

邓煜强调，对于 AI 公司而言，不能在自身肆意蒸馏全人类的网络文献、全人类的知识时毫无顾忌，而当大家只是想了解其思维链时，却以各种理由拒绝。实际上，并没有人真正想要对 AI 进行蒸馏，大家只是期望能够知晓其思维过程，可 AI 公司却以可能被蒸馏为由，设置诸多限制。

为了应对当前的情况，邓煜提出了两项建议。其一，可以通过开源数学模型的方式，确保数学界拥有属于自己且完全掌控的模型，从而减少对 AI 公司的依赖。其二，模型的使用必须严格遵循学术界规范，涵盖数据使用的合理性、思维链的公开透明、可追溯性等多个方面。

徽声在线注意到，当地时间 9 月 11 日，陶哲轩、邓煜、彼得 · 舒尔茨（Peter Scholze）等 25 位菲尔兹奖得主作为最初的签署人，联合发表了一份声明，标题为《人工智能在数学中的严重错位》（A Severe Misalignment of AI in Mathematics），该声明郑重警告，AI 公司与数学共同体之间正逐渐出现“严重错位”的现象。

声明中提到，在过去的几个月里，大语言模型在数学能力方面取得了显著的提升，已经能够解决许多数学领域中长期悬而未决的重大问题。然而，AI 公司将数学问题作为基准来推动解决的做法，对数学科学和数学界都带来了负面影响。AI 公司的目标与数学界的目标存在着严重的错位，这种情况是影响其他科学和创意职业乃至整个社会的更广泛对齐问题的一部分。

声明还指出，这些 AI 解决方案往往在仓促之间发布，没有足够的时间进行正式的撰写，也没有时间对新方法和新想法进行梳理和隔离，更无法及时引用他人的相关工作。和所有创意职业一样，这引发了严重的署名和抄袭问题。此外，由于没有愿意对其发展和融入数学经典负责的数学家，AI 构思的想法永远无法得到充分的实现，数学家之间关键的人类传递链也将因此丧失。