返回首页 访问原文
NVIDIA Vera CPU
介绍
NVIDIA Vera CPU 是 NVIDIA 面向 AI 工厂 / Agent 工作负载 推出的 CPU 产品线,官方博客(2026-11-05):https://blogs.nvidia.com/blog/vera-cpu-highest-throughput-fastest-agents/ 。
AI Agent 不只生成答案,还会搜索信息、查询数据库、编写并测试代码并采取行动;这些步骤在任务过程中在 GPU 推理与 CPU 执行之间来回切换。随着企业部署更多 Agent,AI 工厂需要在可用功耗内同时做到“单 Agent 更快”和“单位功耗支持更多 Agent”。
要点:
- 定位:最高吞吐 与 最快 Agent 兼顾,减少运营商为速度与密度混搭不同 x86 CPU 的需求;
- NVIDIA 在约 100 MW 数据中心对比中称:相对最快 x86,Vera 在保持领先 Agent 速度的同时可实现约 1.6× 每瓦 Agent 数;相对最能效 x86,约 2× Agent 速度 并保持领先能效;
- 早期采用方(按官方博客):Perplexity Agent 编程任务约 1.5×;DeepInfra Agent 编排最高约 2.2×;ClickHouse 标准二进制在 176 核上近线性扩展并登上 ClickBench 硬件榜;DuckLabs TPC-H SF1000 中位约 1.5× Intel Xeon 6;Daytona 1000 个 Agent sandbox 上线约 10.8 s(x86 约 88.4 s),2000 并发时约 12.7 完成任务/秒;Modal 每核 sandbox 吞吐最高约 2×。
解释
解决什么问题
Agent 工作流高度依赖 CPU(搜索、DB、沙箱、编排),而 AI 工厂又常受功耗上限约束。Vera 试图用一颗 CPU 同时覆盖“要快”和“要密”,避免为不同负载混用多种 x86 部件。
与 GPU 的分工
- GPU:模型推理 / 生成;
- CPU:工具调用、查询、代码执行、沙箱生命周期、编排;
- Agent 任务在二者之间频繁切换,CPU 成为吞吐与时延瓶颈之一。
局限与注意
- 对比数据来自 NVIDIA 官方博客与合作伙伴生产式测试,具体基线与配置以各方披露为准;
- “最快 / 最高吞吐”是产品定位表述,真实收益取决于工作负载、软件栈与整机配比;
- 面向 AI 工厂与云/推理服务商,不是消费级桌面 CPU。
用法
适合谁
- 建设 Agent / AI 工厂的云与推理服务商;
- 需要高并发沙箱、数据库查询与 Agent 编排的平台(如官方提及的 coding agent、向量/分析库场景)。
如何了解更多
- 阅读 https://blogs.nvidia.com/blog/vera-cpu-highest-throughput-fastest-agents/ ;
- 对照自身 Agent 负载(搜索、DB、代码写测、sandbox)评估 CPU 是否为瓶颈;
- 关注功耗墙下“每瓦 Agent 数”与单任务时延的权衡,而非只看峰值核数;
- 向 NVIDIA / 合作伙伴获取 Vera 平台规格与部署指南(以官方渠道为准)。
广告