我国日均词元调用量已突破500万亿

2026-11-17 23:11:40未知 作者:徽声在线

最新数据显示,国内日均词元调用量已突破500万亿,算力市场需求暴涨。智能算力短期补不上,只能向存量要效益。2025年,郑纬民院士团队研发的大模型推理系统Mooncake拿下埃里克・里德尔最佳论文奖,核心就是用PD分离技术盘活存量算力,用软件调度把现有算力用足。据悉,P负责“读入用户问题”,D负责“生成回答”。传统方式下,同一批算力轮流干两件事;PD分离让一组只读题,把结果传给另一组专门答题。同样硬件规模下,系统多承接75%的用户请求,长文本吞吐能力提升五倍以上。(央视财经)

点击展开全文
你关注的
从“几年一遇”到“一年几遇”,AI时代网络攻防失衡加剧 奇安信齐向东:主战场转向制造业与服务业从“几年一遇”到“一年几遇”,AI时代网络攻防失衡加剧 奇安信齐向东:主战场转向制造业与服务业 健康管理成全球政策新焦点 外滩热议AI如何引领“主动健康管理”新风尚健康管理成全球政策新焦点 外滩热议AI如何引领“主动健康管理”新风尚 地平线押注车企中“沉默的大多数”地平线押注车企中“沉默的大多数”
相关文章
雷军称具身智能机器人想象力将超过汽车雷军称具身智能机器人想象力将超过汽车 日本电动汽车购车补贴预计本月底提前结束日本电动汽车购车补贴预计本月底提前结束 西南石油大学碳中和首席科学家雷宪章:迈向“电氢双核”时代,必须在“电氢协同”基础上为光伏打开另一条路西南石油大学碳中和首席科学家雷宪章:迈向“电氢双核”时代,必须在“电氢协同”基础上为光伏打开另一条路 奥特曼称AI行业离了黄仁勋也会继续发展奥特曼称AI行业离了黄仁勋也会继续发展 商务部就“新三样”固废回收答每经:推动新能源汽车“车电一体报废”商务部就“新三样”固废回收答每经:推动新能源汽车“车电一体报废” 利用亚马逊人脸识别技术?以军上传350万照片追踪巴勒斯坦人利用亚马逊人脸识别技术?以军上传350万照片追踪巴勒斯坦人