深度解析:AI产业链如何平衡推理性能与Token消耗,实现商业化突破?
2026-07-09 04:13:24未知 作者:徽声在线
衡量全球大语言模型(LLM)Token(词元)支付价格的Silicon Data LLM Token支出指数,自去年12月创立以来经历了近乎翻倍的迅猛增长,然而,目前该指数已较5月份的高点显著回落,跌幅接近20%。
“近期,多份报告指出,由于AI(人工智能)解决方案按Token计价的成本过于高昂,用户不得不克制无节制的使用行为,”行业资深投资者Louis Navellier分析道。
当前,AI产业的发展重心正从模型训练逐步转向推理应用领域。在这一背景下,如何以更少的Token消耗实现更强的推理能力,已成为大模型企业和Agent(智能体)应用公司共同关注的焦点。
税友股份亿企赢CPO(首席产品官)周源在接受《每日经济新闻》记者采访时透露:“我们月Token成本同比去年降低了90%,而1元Token的价值却带来了460元的产出。”尽管成本下降,但公司使用的Token消耗量却是去年同期的两倍。
在软硬件协同发展的趋势下,Token效率的提升不仅体现在模型和应用层面,更深入到硬件层面。这一变化正推动着AI产业向更高效、更经济的方向发展。
随着AI推理应用的爆发式增长,算力需求不再局限于传统的GPU(图形处理器)。TPU(张量处理器)、AI ASIC(人工智能专用定制芯片)、NPU(神经网络处理器)等面向特定场景设计的XPU正迅速崛起,成为云服务商优化成本、提升效率的关键工具。
中昊芯英创始人、CEO(首席执行官)杨龚轶凡在接受《每日经济新闻》记者采访时强调,算力成本对AI商业化落地具有至关重要的影响。他指出,当前绝大多数AI软件服务商的毛利率不足40%,而算力硬件开支是其中的核心成本项。
从数字员工到数字组织:AI商业化“落地战”全面打响
周源向记者表示,目前公司月Token消耗量在400亿至500亿之间,这在国内属于中大型AI应用或垂直领域头部企业的典型用量级。而在去年同期,这一数字还在200亿至300亿之间徘徊。
尽管Token消耗量翻倍增长,但成本却在同比下降。周源解释称,这得益于通用成本的大幅降低,以及公司在基础模型基础上,基于自身数据库资源进行了大量的Harness(算力调度驾驭层)工程优化,从而提高了Token效率。
近期,税友股份发布的Agentic 2.0系统,其核心变化在于引入了A2A(Agent to Agent)协同架构。这意味着,以往独立运行的AI会计、AI顾问、AI开票员等工具,现在能够在新的体系中共享信息、协同决策、自动分工。
从单体Agent升级到A2A协同,从数字员工提升为数字组织,AI应用正从效率工具转变为产业新供给。同时,AI应用从工具化向结果化的交付转变,也正在驱动上市公司业绩增长。
以税友股份为例,2026年一季度,公司营业收入达到4.88亿元,同比增长8.67%;归属于上市公司股东的扣除非经常性损益净利润增幅更是高达33.28%。据了解,一季度业绩增长主要得益于数智财税业务的持续扩张与客户渗透深化。
基于这一增长趋势,税友股份给出了AI驱动的增长预期:到2026年,AI驱动收入有望占亿企赢整体收入的约50%;到2027年,公司希望进一步将这一比例提升至80%。
AI大模型商业化“落地战”正成为企业AI应用的试金石,检验着各家企业的技术实力和市场竞争力。
《中国AI大模型商业化报告(2026年上)》指出,当前AI大模型的商业模式日趋多元,已存在10种商业模式。其中,MaaS(模型即服务)、本地化部署、行业解决方案、C端订阅是当前最主流的商业模式。然而,中国AI大模型商业化仍处于成长期,而非成熟期,在技术、成本、模式等方面仍面临诸多挑战。
报告还提到,短期的快速盈利和长期的生态构建是商业化要解决的核心问题。而面向个人用户及小微团队的订阅制模式,其核心挑战在于突破低付费率与产品同质化的瓶颈,目前仍处于“探路”阶段。
软硬协同趋势下:算力成本为何成为关键因素?
在应用层之下,模型层的头部通用大模型企业也在不断强化高性能和低成本优势,以应对日益激烈的市场竞争。
今年4月,DeepSeek-V4 Pro的发布备受市场关注。在其披露的技术报告中,DeepSeek表示,受限于高端算力,目前Pro的服务吞吐十分有限。预计下半年昇腾950超节点批量上市后,Pro价格将大幅下调。
这一消息直观地体现了算力对模型价格的影响。近日,有消息称DeepSeek与智谱AI正在推进自研AI推理芯片的研发工作,但这一消息目前尚未得到验证。然而,结合谷歌Gemini和其TPU芯片的软硬件协同、阿里千问大模型和平头哥的适配等案例来看,芯模协同正在成为国产大模型的技术路径趋势之一。
国际研究机构Omdia认为,AI的普及为提升中国本土半导体自给率创造了巨大空间。国产算力芯片与AI模型的“芯模协同”将推动本土产能利用率提升,进一步降低算力成本。
中昊芯英CEO杨龚轶凡在接受记者采访时透露,公司目前正在推进和各类大模型的适配工作,在芯片底层定制专属算力,实现芯片与模型的深度耦合。同时,通过联合调优能够大幅降低客户计算、推理的综合算力成本。
杨龚轶凡表示,当下绝大多数AI软件服务商的毛利率不足40%。“如果能把单位算力成本减半,客户性价比直接翻倍,对应毛利率可以从40%提升至70%。”反之,如果算力成本居高不下,很多AI业务将陷入亏损、商业模式无法闭环的困境。因此,深度芯模协同、持续降低训练与推理成本是中昊芯英中长期的核心合作方向。
6月30日,中昊芯英发布了新一代高性能TPU AI专用算力芯片“须臾”。该芯片的TPU架构全面升级,单卡算力性能提升3倍。而搭载“须臾”芯片的泰则® 2.0 AI高性能智算平台,单机算力达7.168P,单个超节点最高可实现2048芯片高速片间互联,为AI应用提供了强大的算力支持。
摩根士丹利发布的最新半导体报告指出,随着AI产业的发展重心由模型训练逐步转向推理应用,算力需求也变得更加多元。GPU仍将在训练和高性能计算领域保持核心地位,但AI ASIC、NPU等面向特定场景设计的XPU(异构通用AI处理器)正在快速崛起,成为云服务商优化成本、提升效率的重要工具。
其中,XPU并非单一产品,而是涵盖AI ASIC等各类面向AI计算场景的专用处理器。随着训练、推理及智能体(Agentic AI)等不同任务对算力需求的不断细分,不同架构的芯片将在各自擅长的场景中发挥重要作用。
在杨龚轶凡看来,Coding(编程)、AI智能体是当前商业化的核心赛道。这类业务对长上下文、长程任务执行、A2A多智能体交互的要求持续走高。因此,TPU芯片公司的核心工作是做极致硬件优化,持续压低整体算力使用成本,以满足市场需求。
对于当前TPU芯片的优化方向,杨龚轶凡提到了四大重点:即Prefill-Decode(预填充-解码解耦)分离专用硬件架构、超大模型分布式集群互联优化、低精度推理硬件原生加速以及超大片上存储架构设计。这些优化方向将有助于进一步提升TPU芯片的性能和效率,推动AI产业的持续发展。


