英伟达Vera CPU测试：AI智能体编排性能飙升，并发推理能力显著增强

7月21日，英伟达对外公布了一组引人注目的测试数据。在AI云平台DeepInfra的严格测试环境下，其最新推出的Vera CPU在应对AI智能体工作负载时，展现出了卓越的性能表现。具体而言，与市场上其他主流CPU产品相比，Vera CPU在智能体编排速度上实现了最高可达2.2倍的显著提升，同时，它还具备支持最高1.6倍更多智能体并发运行的能力，这一成果无疑为AI领域的发展注入了新的活力。

DeepInfra平台作为AI领域的重要基础设施，其数据处理能力堪称惊人。据该平台透露，其每周处理的Token数量接近5万亿，而在这庞大的数据量中，约有30%的数据来源于智能体应用。这一数据不仅彰显了智能体在AI领域中的广泛应用，也进一步凸显了Vera CPU在处理智能体工作负载时的独特优势。

英伟达方面表示，随着AI技术的不断进步，AI智能体在推理、规划和工具调用等任务中扮演着越来越重要的角色。在这一背景下，CPU在模型调用过程中的调度效率，已经逐渐成为影响AI基础设施整体性能的关键因素。而Vera CPU的推出，正是英伟达针对这一市场需求，所做出的重要技术突破和创新。