英伟达Vera CPU测试:AI智能体编排性能显著提升,并发处理能力增强
2026-07-26 11:21:52未知 作者:徽声在线
7月21日,英伟达对外公布了一项重要测试成果:经过AI云平台DeepInfra的严格测试,其Vera CPU在AI智能体工作负载场景下展现出了卓越的性能优势。具体数据显示,与市场上其他CPU产品相比,Vera CPU能够实现最高达2.2倍的编排速度提升,同时,它还具备强大的并发处理能力,能够支持最高1.6倍数量的智能体同时运行,为AI应用的快速发展提供了坚实的硬件支撑。
DeepInfra平台作为AI领域的重要基础设施,其处理能力不容小觑。据该平台透露,其每周处理的Token数量接近5万亿,其中,约有30%的Token来源于智能体应用。这一数据不仅彰显了DeepInfra平台在AI领域的广泛应用,也间接反映了Vera CPU在处理智能体应用时的出色表现。
英伟达方面进一步指出,随着AI技术的不断进步,AI智能体在推理、规划以及工具调用等方面的任务日益繁重。在这一背景下,CPU在模型调用过程中的调度效率显得尤为重要,它直接关系到AI基础设施的整体性能。而Vera CPU的出色表现,无疑为AI基础设施的性能提升提供了新的可能。
