WAIC聚焦｜魏少军领衔、DF1000斩获SAIL奖，3D近存计算能否突破内存瓶颈？

在世界人工智能大会（WAIC）的舞台上，每年备受瞩目的最高奖项SAIL奖（卓越人工智能引领者奖）总是吸引着无数目光。今年的WAIC大会上，SAIL奖共颁发了四个奖项，而东方算芯DF1000凭借其卓越表现，成功跻身其中，成为引领行业发展的佼佼者。

SAIL奖的设立寓意深远，S代表超越自我，A代表赋能未来，I代表创新突破，L代表引领潮流。东方算芯DF1000在本届SAIL奖中，无疑成为了引领赛道上的璀璨明星。

据了解，东方算芯是由国际欧亚科学院院长魏少军教授领衔的团队精心打造。在7月18日的WAIC现场，东方算芯的相关负责人接受了《每日经济新闻》记者的独家专访。他透露：“如今，各大AI芯片厂商在发布会上已鲜少提及算力，这与往年大相径庭。”

这一转变的背后，是AI芯片行业从单一芯片性能比拼，向系统层面、整机及超节点性能的全面较量。在大模型的应用场景下，单位功耗下获得的总token（词元）数量，以及按照用户服务协议实现的低延迟token输出能力，成为了新的竞争焦点。同时，随着大模型从训练阶段向推理阶段过渡，带宽的重要性日益凸显。

带宽成为制约发展的主要瓶颈

东方算芯负责人进一步解释道：“在当前架构下，大模型推理主要分为Prefill（预填充）和Decode（解码）两个阶段。其中，Decode阶段尤为关键，它面临着内存带宽的严峻挑战。简而言之，Decode阶段的带宽往往已经达到极限，但算力的利用率却可能只有20%到30%。”

这意味着，在推理的Decode阶段，算力并未得到充分发挥。此时，单纯增加算力已无法显著提升性能。该负责人强调：“在内存带宽成为瓶颈的情况下，带宽增加多少，性能就能提升多少。性能的提升意味着在单位时间和单位功耗下能够产生更多token，从而降低token成本。”

那么，token成本的下降对AI行业意味着什么呢？上述负责人表示：“这将极大地降低AI应用探索的成本。当前，许多AI应用企业正在积极探索AI能力的边界。AI Coding（AI编程）已经证明是一个巨大的市场，那么下一个类似Coding的市场在哪里？这需要企业不断探索，而探索需要成本。带宽领域的优势将带来token成本的下降，使得AI应用企业能够探索得更远，更有可能发现下一个‘杀手级’应用，下一个AI Coding的市场。”

简而言之，当下AI硬件发展的主要瓶颈在于内存带宽。解决带宽问题，将使得token成本下降，进而促进应用探索行为的增多和探索场景的拓展。

传统的通用GPU采用2.5D封装技术，即计算核心的数据通过Interposer（中介层）传输到HBM（高带宽存储）。尽管相比使用LPDDR（低功耗双倍数据速率内存）或GDDR（图形双倍数据速率显存）的AI芯片，内存带宽有了显著提升，但过去几年访存带宽的提升速度仍远远落后于AI芯片算力的提升速度。

为了突破这一瓶颈，英伟达去年底“收编”了Groq的LPU（语言处理单元），采用片上存储SRAM（静态随机存取存储器）来解决内存带宽问题。这种设计使得计算核心与内存紧密相邻，无需远距离传输数据，从而大幅提升了带宽效率。

然而，LPU虽然带宽极高，但容量却相对较小。原本的HBM虽然容量大但带宽小，如同一个大水池但进水、出水速度慢；而LPU则如同一个小水池但进出水速度极快。

3D方案助力内存带宽提升

3D近存计算技术为解决内存带宽问题提供了新的思路。东方算芯在保持较大内存容量的基础上，通过3D近存计算技术极大提升了AI芯片的访存带宽。

东方算芯的方案是在立体空间中寻求突破。最下层是逻辑层，即计算核心；而DRAM内存则放置在上方。逻辑层晶圆与存储晶圆通过混合键合技术实现高速互联，从而大幅提升了带宽效率。

东方算芯负责人表示：“逻辑芯片与存储芯片通过3D混合键合在物理层面堆叠，互联密度达到了极高水平。与传统HBM相比，DF1000的带宽得到了大幅提升。”

据悉，LPU 3配备了500MB的片上内存容量，提供了高达150TB/s的内存带宽。而DF1000的带宽虽然略低于LPU，但仍高达6.4TB/s，远高于国内采用2.5D封装技术路线的AI芯片。

东方算芯负责人认为：“LPU的带宽虽然更高，但其容量太低了。在实际应用中，这可能会成为限制其发展的因素。”

据了解，LPU机架中虽然配备了256颗LPU芯片，但其高速存储容量也仅有128GB。这对于需要运行大模型权重参数的应用来说，显然是远远不够的。因为即使是最“满血”参数的主流大模型，也无法完全放入这128GB的高速SRAM内存中运行。

换言之，传统GPU虽然算力强大，但在Decode阶段性能常常受限于内存带宽；而LPU虽然拥有极致的内存带宽，但内存容量又太小。而东方算芯的3D近存计算产品DF1000，则在保持较大内存容量的同时，大幅提升了内存带宽，为AI芯片的发展提供了新的方向。

在7月18日的WAIC2026主题演讲中，魏少军教授便指出，国内AI芯片需要跨过三堵墙：算力墙、内存墙和通信墙。而东方算芯的3D近存计算产品DF1000提供的思路，或许将引领国产芯片逐渐跨过内存墙这一重要障碍。