郑纬民院士：AI产业重心转向Token服务，智能基建迎三大重构

3月28日最新资讯，在中关村论坛的一场由趋境科技携手九源智能计算系统生态联合体共同举办的研讨会上，中国工程院院士郑纬民发表了重要观点。他指出，当前AI产业的核心焦点正悄然发生转变，已从传统的模型服务模式逐步转向Token服务模式。针对未来智能基础设施的发展方向，郑纬民院士提出了三大关键重构策略：其一，全系统异构协同，这意味着要依据不同计算任务的特性，将它们智能地分配至GPU、CPU、内存以及SSD等硬件资源上，从而有效打破算力瓶颈，提升整体计算效能；其二，存算协同实现“以存换算”，通过运用前置KV Cache等先进技术手段，能够显著减少重复计算量，进而大幅提升推理效率，为AI应用的快速响应提供有力支撑；其三，面向SLO的智能调度，这一策略能够精准地将用户的业务需求转化为底层资源的具体决策，确保资源的高效利用和业务的顺畅运行。