据悉,云端AI推理平台DeepInfra近日发布测试结果,在生产环境下的智能体AI(Agentic AI)负载测试中,英伟达Vera CPU的速度表现优于其他CPU。
具体测试数据显示,英伟达Vera CPU的runc延迟为29毫秒,而英特尔Sapphire Rapids的延迟为64毫秒,Vera CPU的速度约为后者的2.2倍。
测试在统一条件下进行,包括使用20个物理核、每核1线程、单NUMA节点,并启用了CPU confinement,超出核预算的运行会被丢弃。
据悉,云端AI推理平台DeepInfra近日发布测试结果,在生产环境下的智能体AI(Agentic AI)负载测试中,英伟达Vera CPU的速度表现优于其他CPU。
具体测试数据显示,英伟达Vera CPU的runc延迟为29毫秒,而英特尔Sapphire Rapids的延迟为64毫秒,Vera CPU的速度约为后者的2.2倍。
测试在统一条件下进行,包括使用20个物理核、每核1线程、单NUMA节点,并启用了CPU confinement,超出核预算的运行会被丢弃。