NVIDIA Vera CPU：面向智能体 AI 的单线程性能设计
NVIDIA Generativ6 天前
NVIDIA Vera CPU：面向智能体 AI 的单线程性能设计
随着智能体 AI 的发展，越来越多关键执行路径正在转移到 CPU 上。
在典型的智能体工作流中，智能体需要在沙箱环境中执行代码、调用工具、检索上下文、与数据库交互，并在把信息返回给模型之前分析结果。这些步骤往往不只是简单的模型推理，而是包含大量控制流、工具调用和外部系统交互。
当这类循环在 AI 工厂中并发运行时，CPU 性能会同时影响两个层面：
- 单个智能体的响应速度：CPU 执行越快，智能体完成工具调用、代码执行和结果处理的延迟越低。
- 整体系统吞吐能力：大量智能体并行运行时，CPU 能否高效支撑这些任务，会影响 AI 工厂的总体处理能力。
NVIDIA Vera CPU 中的 Olympus 核心被定位为面向智能体 AI 的高单线程性能设计。其关注点在于，在智能体工作流中承担更多关键路径负载的 CPU，如何为并发智能体系统提供更好的响应能力和吞吐支撑。