英伟达11月5日发布博文,公布Vera CPU(2026年3月16日发布)在智能体工作负载上的实测数据,称其可在同一颗处理器中同时实现业界领先的智能体执行速度和每瓦吞吐量,帮助数据中心在有限电力条件下运行更多智能体。
英伟达表示,与传统生成式AI不同,智能体不仅要生成答案,还需搜索资料、查询数据库、编写和测试代码并实际执行任务,这些步骤大量依赖CPU,并需要反复切换负责执行的CPU与负责推理的GPU。英伟达认为,随着企业规模化部署智能体,数据中心的核心瓶颈正从单纯算力转向“速度、并发能力和能耗”的平衡。
根据英伟达在100兆瓦数据中心场景下的对比测试,Vera CPU相较速度最快的x86 CPU,每瓦可支持1.6倍数量的智能体;相较能效最高的x86 CPU,智能体速度提升2倍,同时保持领先能效。早期合作方中,Perplexity称使用Vera运行智能体编码任务比传统CPU快1.5倍,并计划投入生产系统。
举报
