NVIDIA 机密计算用于私密高性能 AI 推理

背景

随着大语言模型（LLM）推理越来越多地应用于个人、企业以及受监管场景，推理过程可能涉及敏感信息和专有模型上下文。因此，相关数据需要在可信环境中处理，以降低数据泄露和未授权访问风险。

NVIDIA 的方案方向

NVIDIA Confidential Computing（机密计算）面向这类需求，提供一种在安全环境中运行 AI 推理工作负载的路径。其核心包括：

• 使用内存加密的机密虚拟机（CVM）运行工作负载；
• 结合机密 GPU 处理 AI 推理任务；
• 支持面向生产环境的高性能 AI 推理场景。

适用场景

这类能力主要面向需要同时关注性能与隐私保护的推理应用，例如：

• 企业内部知识与专有上下文参与推理；
• 涉及个人敏感数据的 AI 服务；
• 受合规要求约束的行业级 AI 部署。

观察

从已披露内容看，NVIDIA 将机密计算定位为生产级 AI 推理安全部署的一部分，重点是让敏感数据和模型上下文在受保护的执行环境中完成处理，同时尽量维持高性能推理能力。