英伟达Vera CPU测试：AI智能体编排性能飞跃，并发推理能力显著增强

7月21日，英伟达对外公布了一组令人瞩目的测试数据。在AI云平台DeepInfra的严格测试环境下，Vera CPU展现出了卓越的性能表现。与市面上其他CPU产品相比，当面对AI智能体工作负载时，Vera CPU的编排速度最高可提升2.2倍，这一显著提升意味着在处理复杂AI任务时，Vera CPU能够更快速地完成智能体的调度与编排工作。同时，Vera CPU还具备强大的并发处理能力，支持最高1.6倍更多智能体并发运行，为大规模AI应用提供了坚实的硬件支撑。

DeepInfra平台作为AI领域的重要基础设施，其数据处理能力十分惊人。据该平台透露，每周处理的Token数量接近5万亿，其中智能体应用所产生的数据占比约达30%。这一数据充分表明，智能体在AI应用中的地位日益重要，对底层硬件的性能要求也越来越高。

英伟达方面进一步指出，随着AI技术的不断发展，AI智能体所承担的任务愈发繁重，涵盖了推理、规划以及工具调用等多个方面。在这样的背景下，CPU在模型调用过程中的调度效率显得尤为关键，它直接关系到AI基础设施的整体性能表现。Vera CPU的出现，无疑为提升AI基础设施性能提供了新的解决方案。