英伟达Vera CPU测试：AI智能体编排性能显著提升，并发推理能力出众

在7月21日，英伟达对外公布了一则引人注目的消息：经过AI云平台DeepInfra的严格测试，其最新推出的Vera CPU在处理AI智能体相关的工作负载时，展现出了卓越的性能表现。具体而言，与市场上其他CPU产品相比，Vera CPU在AI智能体的编排速度上实现了最高可达2.2倍的提升，同时，它还能支持最高1.6倍数量的智能体并发运行，这一数据无疑为AI领域的发展注入了新的活力。

DeepInfra平台作为AI领域的重要基础设施，其处理能力之强大令人瞩目。据该平台透露，其每周处理的Token数量接近5万亿，而在这庞大的数据处理量中，约有30%的份额来自于智能体应用。这一比例不仅彰显了智能体在AI领域中的广泛应用，也进一步凸显了Vera CPU在处理此类任务时的优势。

英伟达方面表示，随着AI技术的不断进步，AI智能体正逐渐承担起更多的推理、规划和工具调用等复杂任务。在这一背景下，CPU在模型调用过程中的调度效率显得尤为重要，它直接关系到AI基础设施的整体性能表现。而Vera CPU的推出，无疑为提升AI基础设施的性能提供了一种新的解决方案。