国产大模型的新挑战:构建从训练到应用的完整效率生态

2026-10-26 10:08:00未知 作者:徽声在线

大模型领域的竞争如今正迈向一个更为务实的阶段。尽管更大的参数规模与更强的推理能力依旧是技术革新的关键方向,但当这些模型真正融入企业与个人的日常工作中时,训练周期的长短、调用成本的高低以及任务完成的效果,都成为了决定技术能否持续获得青睐的重要因素。模型能力的提升,必须与运行效率和应用价值并驾齐驱,共同接受市场的严格检验。

对于国产大模型而言,这一挑战还额外涉及到底层算力的支撑。长上下文处理、代码生成以及智能体任务等复杂场景,对显存容量、数据传输速度和集群协同能力提出了更为严苛的要求。如何通过模型架构的优化、训练方法的改进以及推理系统的协同,来提升现有硬件的资源利用率,不仅关系到模型能否持续迭代升级,更直接影响到后续部署和使用的成本效益。

10月22日,科大讯飞推出了其最新的讯飞星火X2.6大模型,该模型基于全国产算力完成了能力的全面升级,支持高达百万Token的上下文处理,并首次引入了端云一体协同架构。与此同时,科大讯飞还同步推出和升级了法律、教育、医疗等多个领域的应用,以及面向开发者的平台工具,进一步展示了这些底层能力如何融入具体业务场景,实现价值转化。


这构成了一条从研发到应用的完整效率链条:训练环节的提效,为模型能力的升级缩短了周期;推理与部署的优化,使得业务能够承担得起使用成本;行业知识与流程的深度适配,让模型能够真正完成实际工作;而开发者生态的构建,则将这些能力带入了更多元化的场景。科大讯飞正试图解答的是,国产算力上的技术突破,如何能够逐层转化为规模化应用的坚实条件。

国产算力:支撑持续迭代的核心力量

效率之战首先在训练环节打响。

模型处理的信息量越大,训练所需的计算、存储和通信资源就越多。在国产算力环境下,单纯依靠增加芯片数量,并不能有效解决显存、带宽以及集群协同带来的瓶颈问题。模型架构和训练方法必须与硬件条件紧密适配,才能减少资源等待和调度过程中的损耗。

科大讯飞透露,星火X2.6采用了面向国产平台的长程任务动态并行训练技术,针对长程任务混训中的效率问题进行了深度优化。以飞星二号万卡集群训练2000B、256K长度数据为例,训练时间从原来的4.5个月大幅缩短至1.2个月,超长上下文训练效率提升至原来的约4倍。


缩短训练周期的意义,远不止于节省单次训练的时间。模型研发需要反复验证算法、调整数据和训练策略,单轮周期越长,试错成本就越高,后续能力升级也更容易受到制约。提高资源利用率,才能让有限的算力支撑更多轮次的迭代升级。

模型架构的设计同样服务于这一目标。星火X2.6采用了混合专家模型(MoE)架构,通过按任务激活部分专家网络,在保留较大参数容量的同时,有效控制了单次计算所需的资源。训练调度与模型架构的共同优化,正是为了将硬件资源更充分地转化为模型能力。

在科大讯飞董事长刘庆峰看来,全栈自主可控的关键,正包括对这套训练过程的全面掌握。“只有在国产算力上训练出模型,才是真正的自主可控。”他强调,自主可控还包括掌握算法并持续创新、自主获取和清洗数据,以及面向场景开展软硬件一体化创新的能力。

从这一理解出发,国产化需要贯穿模型训练、算法、数据和应用的全过程,而训练是其中难度较高、又无法绕开的关键环节。只有能够自主完成训练并持续优化,企业才有条件掌握模型升级的节奏。但模型训得更快,还只是效率链条的起点。

降低调用成本:推理与部署的双重优化

训练阶段的投入相对集中,而推理开销则伴随着每一次用户调用持续发生。模型走向规模化应用后,这笔长期成本将成为企业必须精打细算的一笔账。

尤其是长上下文、代码和智能体任务等复杂场景,往往需要读取更多材料、调用工具并保留中间状态。模型不仅要进行计算,还要不断存取数据。如果缓存容量不足、访问效率不高,增加的等待与重复计算就会推高时延和资源消耗。

针对这一问题,科大讯飞推出了面向国产异构算力集群的三项推理技术:自适应存算协同推理、异构分布式推理,以及适配全国产硬件的四层KVCache架构。KVCache用于保存模型生成过程中的部分计算结果,减少重复计算,是长上下文推理的重要支撑。

据公司披露,在相关飞星二号国产芯片集群上,推理效率达到优化前的4.5倍,KVCache命中率由63%大幅提升至95.7%。这组优化着眼于让已有算力承接更多请求,降低模型能力增强后带来的服务压力。


部署方式则提供了另一条提效路径。并非每项工作都需要调用云端大模型,一些文档处理、本地表格操作和日程管理任务,完全可以在设备端完成;复杂任务再由云端承接,或由两端协作完成。

此次发布的端云一体协同架构,先由端侧模型判断任务应当“纯端办”、“纯云办”还是“端云协办”。科大讯飞称,通过端云路由协同训练,路由准确率从81.2%提升至96.1%。这里的关键,是让任务分配与两端能力相匹配,避免因分配不当造成重复调用或任务失败。

刘庆峰表示,科大讯飞希望未来约60%的工作能够在本地电脑或手机上完成,减少敏感数据上传和云端调用开销。但这一目标对端侧模型提出了更高要求:读取邮件之后,还要比对附件、分析数据、识别风险,并连续调用工具完成工作。

“它不是一个简单的写一篇文章的问题。”刘庆峰说。端云分工能否成立,取决于端侧模型能否承担这些多步骤任务,也取决于系统能否准确判断何时需要云端介入。部署效率的提升,需要模型能力与任务调度的共同支撑。

由此,训练效率与部署效率才真正衔接起来:前者让更强模型能够被持续研发,后者让这些能力以业务可承受的成本被使用。而成本降下来之后,还需要回答更具体的问题——模型是否懂得这项工作该怎么做。

让AI深入行业:从通用到专业的转变

行业并不缺少数字化系统,难点在于如何将分散的数据、专业经验和日常流程连接起来。对于学校、医院和律师事务所等机构而言,一个能够回答问题的通用模型,距离可以参与实际工作的助手,仍有一段适配过程。

在法律场景中,此次推出的讯飞晓法,将端云协同落实到具体办案流程。案卷进入系统后,先在本地完成识别、整理;需要云端能力时,材料经脱敏和用户确认后上传,结果返回后再在本地还原。接案建卷、阅卷、文书起草、庭前准备与归档等环节,在同一案件空间内无缝衔接,减少不同环节之间的信息搬运。

据该公司介绍,讯飞晓法的专业基础来自其在公检法领域积累的1.6亿件案件辅助办理实践。目前已在国内部分律师事务所试用,辅助法律工作者整体办案效率提升45%以上。


在教育场景中,此次发布的讯飞星光,将备课、教研、家校沟通和事务助理整合到同一工作台,并连接智学网、校信及企业微信、钉钉等平台。教师提出教学需求后,系统可以生成教案、动画和情景视频,也能制作可交互的教学资源。

这一能力已积累了一定使用规模。讯飞星光累计注册教师30万名,10万多名教师参与共创AI资源,近一个月创作精品资源超10万份;面向学生,科大讯飞AI学习机此次上新“探究学”功能,通过三维观察、操作和验证,将抽象知识转化为可以主动探索的问题。

在医疗方面,讯飞影像云此次升级多模态、多病种能力,为影像质控和报告生成等环节提供支持。安徽省医学影像云平台已实现公立医疗机构全覆盖接入,汇聚超1.6亿例影像检查数据,为医患提供超2.6亿次服务,跨院调阅原始影像可在3秒内完成。

面向个人用户,讯飞晓医此次升级多医学报告综合解读功能,结合报告、病史和健康档案,提供健康风险洞察及综合健康管理计划。讯飞晓医累计完成AI咨询超2.2亿次,下载量破4400万,用户满意度高达98%。

这些行业应用的共同点,是将模型能力深度嵌入已有业务过程。科大讯飞积累的专业知识、数据和服务渠道,为模型适配提供了坚实基础,有助于减少重新理解业务、连接系统的投入。

“其实无论是大模型还是小模型,都存在幻觉问题。”刘庆峰在采访中表示,需要让模型充分融入企业流程,补充业务知识,并在各个流程节点建立严格的测试方法。

此次推出的讯飞星帆WinWork数字员工平台,则进一步沉淀企业规则、数据和专家知识,让数字员工能够识别任务、拆解流程、联动系统执行。用刘庆峰的话说,要让其“真正成为企业的自己人”,融入流程,“才能变成组织级提效的利器”。

开放平台:让落地经验惠及更多开发者

当模型能够在具体岗位上完成工作后,接下来的问题是:这些能力如何走出单个项目,进入更多行业、终端和工作流?

一家企业很难独立覆盖所有需求。如果每个开发者都要重新完成模型适配、系统连接和流程搭建,行业落地仍会面临大量重复投入。因此,效率链条的最后一环,是把模型能力和已有经验转化为可以被更多人调用、组合的工具。

科大讯飞此次发布的星辰TaaS平台,以星辰MaaS为基础,将模型调度、智能体引擎和知识工程等能力连接起来,支持数字员工、办公提效、同传翻译等应用开发。其指向,是帮助开发者缩短从调用模型到形成解决方案的距离,让Token消耗与实际业务价值建立更直接的联系。

与此同时,科大讯飞将语音、多模态能力封装进硬件模组,并结合智能体流程自动化和开发工具,支持开发者通过自然语言开发应用、连接企业内部系统。底层能力越容易被复用,开发者就越有条件把精力投入具体需求。

开放平台提供了这一协作的基础。据科大讯飞此前数据,截至2025年10月31日,讯飞开放平台有超961.6万开发者团队、368.4万个应用,连接42.6亿台终端设备。此次开发者节公布的2026年AI开发者大赛,则吸引15个国家、351座城市的52120支团队参赛。

这些参与者既是模型能力的使用者,也可能成为新场景的发现者。行业从业者理解真实需求,开发者将需求转化为产品,应用反馈再推动工具和模型改进,技术扩散才有机会形成持续循环。

生态协作也需要回到底层训练。刘庆峰在采访中提到,算法迁移至国产算力平台时,架构适配、算子优化和反复验证都会消耗大量研发时间。更多厂商参与,才有机会通过共享经验减少重复投入。

“我们大声疾呼希望有更多人进来。”他说,希望更多国内大模型厂商在国产算力上共同探索、形成生态。对开发者开放应用能力,对产业积累可复用的训练经验,分别回应了应用端与研发端的效率问题,也让国产AI的进步从单家企业的突破,走向更广泛的协作与共赢。

从训练到推理,从业务流程到开发者生态,效率战最终检验的是整条链路能否高效运转。技术节省的时间和资源,需要继续传递为更低的使用门槛、更可靠的任务执行,以及更多可持续的应用场景。

效率不是规模竞争的终点,而是规模化应用的门票。当竞争从“更大更多”转向“更稳更省更可用”,国产AI才真正进入下一阶段。而让这张门票被更多企业和开发者拿到,仍有赖于生态的共同繁荣与持续创新。

点击展开全文
你关注的
从“几年一遇”到“一年几遇”,AI时代网络攻防失衡加剧 奇安信齐向东:主战场转向制造业与服务业从“几年一遇”到“一年几遇”,AI时代网络攻防失衡加剧 奇安信齐向东:主战场转向制造业与服务业 健康管理成全球政策新焦点 外滩热议AI如何引领“主动健康管理”新风尚健康管理成全球政策新焦点 外滩热议AI如何引领“主动健康管理”新风尚 地平线押注车企中“沉默的大多数”地平线押注车企中“沉默的大多数”
相关文章
国产大模型的新挑战:构建从训练到应用的完整效率生态国产大模型的新挑战:构建从训练到应用的完整效率生态 Kimi就K3.1 Pro会员限流问题致歉并推出补偿措施Kimi就K3.1 Pro会员限流问题致歉并推出补偿措施 申通快递:快递行业“反内卷”典范,未来可期申通快递:快递行业“反内卷”典范,未来可期 Kimi K3.1 Pro深夜震撼发布:2.8万亿参数再夺全球开源模型之冠,月之暗面上市前加速场景布局Kimi K3.1 Pro深夜震撼发布:2.8万亿参数再夺全球开源模型之冠,月之暗面上市前加速场景布局 英伟达“停产风波”引发显卡涨价潮,深圳华强北RTX 5090报价超5万英伟达“停产风波”引发显卡涨价潮,深圳华强北RTX 5090报价超5万 遥感五十号03星成功发射!网友捕捉升空奇景,夜空绽放“太空水母”之美遥感五十号03星成功发射!网友捕捉升空奇景,夜空绽放“太空水母”之美