内存成本飙升引发技术革新：内存优化或成AI盈利新突破口？

徽声在线8月20日讯（编辑 李莹）随着人工智能（AI）大模型技术的不断迭代与演进，行业对算力和内存的需求呈现出爆炸式增长，内存芯片的采购成本也随之水涨船高。面对这一挑战，各大科技巨头纷纷采取行动，通过软件与系统层面的优化，力求在AI数据处理过程中减少内存占用，从而实现成本的有效控制。

据近期媒体报道，谷歌、英伟达、微软等科技行业的领军企业，已经相继推出了一系列创新技术，如数据压缩、内存负载分流等，以应对AI业务所带来的内存压力。

技术革新层出不穷

谷歌研究院在今年三月推出的TurboQuant算法，便是其中的佼佼者。该算法通过特殊量化技术，将AI推理过程中产生的键值（KV）缓存压缩至3-4比特，从而显著降低了DRAM的计算压力。

简单来说，就是借助这一算法，可以用更小的存储空间来存放AI推理过程中的临时数据，而无需对原有模型进行任何改动，即可实现内存消耗的减少。

业内专家指出，在不对AI模型进行重新训练的前提下，TurboQuant算法相较于现有方案，最高可将内存使用量降低至原有水平的六分之一。

与此同时，英伟达也在3月正式公布了其上下文记忆存储平台（CMX）方案，该方案通过增设独立存储层来减轻内存压力。

据了解，CMX平台依托数据处理单元（DPU）搭建共享平台，将原本集中于高带宽内存（HBM）中的计算数据进行分流处理，旨在避免HBM过载，并同时提升能效表现。

微软方面则近期披露了其IndexMem技术，该技术会在AI推理阶段对优先级相对较低的数据进行筛选并压缩，以进一步优化内存使用。

此外，学术界也推出了EVICPRESS系统作为主流备选方案。该系统将键值缓存分散存储至HBM、普通DRAM、固态硬盘（SSD）等多层存储介质中，并根据上下文重要性对数据执行压缩或删除操作。

这一系统可以理解为将AI临时缓存分流到不同速度的存储设备中，优先保障关键数据的存储与处理，从而有效缓解HBM的压力。

值得注意的是，上述技术均于今年上半年陆续公布，但目前尚无确切消息表明它们已实现大规模商业化落地。

成本压力催生技术优化

内存价格的持续攀升，迫使大型科技企业不得不着手削减内存消耗，以应对成本压力。

摩根士丹利最新预测显示，到2026年第三季度，DDR4等成熟DRAM的价格预计将环比大涨50%，第四季度还将进一步上涨10%。

该机构表示，成熟DRAM芯片的供应紧张局面即将进一步加剧。

据韩国券商iM证券测算，今年全球前十五大科技巨头的资本开支总预算中，存储芯片采购占比高达37%，较去年15%的占比高出了2.5倍左右。

有媒体指出，内存成本的上涨也对大型科技企业的自由现金流产生了拖累作用。

以谷歌母公司Alphabet为例，受AI基础设施投入影响，该公司今年第二季度录得了史上首次负自由现金流。为应对这一局面，Alphabet本月初发行了约250亿美元的公司债以完成融资。

无独有偶，英伟达也于6月发行了至少200亿美元的公司债，这是其五年以来首次发行债券，主要用于覆盖基础设施建设开支。

一位业内人士表示：“大型科技企业已经走到了仅靠经营活动产生的现金不足以覆盖AI基础设施投入的阶段。因此，能够提升有限芯片资源利用效率的内存优化技术，未来将成为决定企业盈利水平的关键因素。”

（徽声在线 李莹）