英伟达DSX软件优化实测：Lambda集群能效比提升24%的背后技术

【英伟达DSX软件助力Lambda集群性能跃升：Token处理效率提升24%】徽声在线10月21日消息，根据英伟达最新披露的技术验证数据，Lambda实验室在基于英伟达HGX B200计算平台的集群测试中，通过部署DSX MaxLPS软件优化方案，在保持电力消耗恒定的条件下，实现了Token吞吐量24%的显著提升。值得关注的是，该优化方案同步带来19%的GPU有效算力扩容，标志着AI基础设施能效比取得突破性进展。

技术白皮书显示，此次概念验证测试采用8节点HGX B200集群架构，通过DSX MaxLPS的动态负载均衡算法与内存管理优化，在LLM推理场景下将单卡Token处理速率从基准值的1250 tokens/秒提升至1550 tokens/秒。英伟达数据中心解决方案总监指出，该优化方案特别适用于大语言模型实时推理场景，可降低32%的单位Token能耗成本。