中科曙光突破AI推理瓶颈：词元加速技术即将商用落地

据徽声在线从权威渠道获悉，中科曙光即将推出一项针对大模型推理场景的革命性存储技术——新一代词元加速解决方案。该技术通过优化推理阶段的重复性计算流程和智能数据调度机制，可显著提升AI推理效率，尤其适用于需要高频次计算的复杂模型场景。

在硬件部署层面，中科曙光自主研发的ParaStor分布式存储系统已成功支撑国内首个全自主可控的十万卡级AI超算集群曙光8000（登峰项目）。该系统凭借每秒数百GB的聚合带宽和线性扩展能力，为超大规模并行计算任务提供了稳定的数据存储与高速吞吐保障。根据赛迪顾问发布的《2024中国人工智能基础设施发展白皮书》显示，中科曙光在AI算力服务、智慧教育解决方案、具身智能开发平台及自动驾驶训练系统四个关键领域均占据市场首位，其技术积累已形成完整的产业生态闭环。