内存成本飙升引发技术革新：内存优化或成AI盈利新引擎？

徽声在线8月20日讯（编辑 李莹）随着人工智能（AI）大模型的持续迭代与演进，整个行业对算力和内存的需求呈现出爆炸式增长，这直接导致了内存芯片采购成本的急剧上升。面对这一挑战，各大科技巨头纷纷寻求通过软件与系统层面的优化，来降低AI数据处理过程中的内存占用，从而实现成本的有效控制。

据近期媒体报道，谷歌、英伟达、微软等科技行业的领军企业，已经相继推出了一系列创新技术，如数据压缩、内存负载分流等，以应对AI业务快速发展所带来的内存压力。

技术创新层出不穷

谷歌研究院在今年三月推出的TurboQuant算法，堪称这一领域的代表性技术。该算法通过特殊量化手段，将AI推理过程中产生的键值（KV）缓存压缩至极小的3-4比特，从而显著降低了DRAM的计算负担。

简单来说，TurboQuant算法利用了一种高效的量化策略，使得AI推理的临时数据能够以更小的空间存储，而无需对原有模型进行任何改动，即可实现内存消耗的减少。

业内专家指出，在不对AI模型进行重新训练的前提下，TurboQuant算法相较于现有方案，最高可将内存使用量降低至原有水平的六分之一，这无疑为内存优化提供了新的思路。

与此同时，英伟达也在3月正式公布了其上下文记忆存储平台（CMX）方案，该方案通过增设独立存储层来有效减轻内存压力。

据悉，CMX平台依托数据处理单元（DPU）搭建了一个共享平台，将原本集中于高带宽内存（HBM）中的计算数据进行分流处理，旨在避免HBM过载，同时提升整体能效。

微软则近期披露了其IndexMem技术，该技术能够在推理阶段智能筛选出优先级相对较低的数据，并对其进行压缩处理，从而进一步优化内存使用。

此外，学术界也推出了EVICPRESS系统作为主流备选方案。该系统通过将键值缓存分散存储至HBM、普通DRAM、固态硬盘（SSD）等多层存储介质中，并根据上下文重要性对数据执行压缩或删除操作，以实现内存的有效管理。

可以理解为，EVICPRESS系统将AI临时缓存分流到了快慢不同的存储设备中，并优先保障关键数据的存储，从而有效缓解了HBM的压力。

值得注意的是，上述技术均于今年上半年陆续公布，但目前尚无确切消息表明它们已经实现了大规模商业化落地。

成本压力催生技术革新

内存价格的持续攀升，迫使大型科技企业不得不采取措施削减内存消耗，以应对日益严峻的成本挑战。

摩根士丹利的最新预测显示，到2026年第三季度，DDR4等成熟DRAM的价格预计将环比大涨50%，而第四季度还将进一步上涨10%。

该机构表示，成熟的DRAM芯片供应紧张局面即将进一步恶化，这无疑给科技企业带来了更大的成本压力。

据韩国券商iM证券测算，在今年全球前十五大科技巨头的资本开支总预算中，存储芯片采购占比高达37%，较去年15%的占比高出了2.5倍左右。

有媒体指出，内存成本的上涨也对大型科技企业的自由现金流产生了负面影响。

以谷歌母公司Alphabet为例，受AI基础设施投入影响，该公司今年第二季度录得了史上首次负自由现金流。为应对这一局面，Alphabet本月初发行了约250亿美元的公司债以完成融资。

无独有偶，英伟达也在6月发行了至少200亿美元的公司债，这是其五年以来首次发行债券，主要用于覆盖基础设施建设开支。

一位业内人士表示：“大型科技企业已经走到了仅靠经营活动产生的现金不足以覆盖AI基础设施投入的阶段。因此，能够提升有限芯片资源利用效率的内存优化技术，未来将成为决定企业盈利水平的关键因素。”

（徽声在线 李莹）