硬件根植的AI安全，绝不拖慢速度

英伟达今日宣布，其嵌入最新Blackwell GPU的机密计算（CC）解决方案在AI推理性能上几乎等同于非安全配置，吞吐量达到最高98%。这一突破解决了企业采用AI的关键障碍：在主动推理过程中保护敏感数据和模型权重，同时不牺牲速度。随着各组织在受监管行业中越来越多地部署代理型AI，同时维护安全性和性能的能力成为游戏规则改变者，使得可扩展、可信赖的AI运营成为可能。

该公告发布之际，企业正面临日益增长的数据隐私、主权和使用中数据安全的担忧——尤其是在模型处理敏感输入的推理过程中。传统加密方法可能引入延迟，阻碍采用。英伟达的CC利用Blackwell GPU（包括RTX PRO 6000、HGX B200和HGX B300）中的基于硬件的信任根来保护工作负载，而非仅依赖软件。这种方法专门为代理型AI时代设计，其中多个模型与实时数据流交互。

关键技术细节包括：CC解决方案内置于芯片中，具有在制造过程中融合的私有签名密钥，从未暴露给软件或主机。通过英伟达远程认证服务（NRAS）的远程认证，在部署机密之前，根据参考清单验证GPU和CPU TEE的测量结果。关键的是，此认证是单次启动事件，不会增加每次请求的延迟。基准测试显示，由于CC安全自动调优器计时、异步D2H复制工作者以及FlashInfer和SGLang等框架中的分段CUDA图支持等优化，启用CC在各种工作负载下仅导致最小的吞吐量降低。

从技术角度看，CC的性能开销主要源于安全工作提交延迟和降低的优化。

把任意网站变成干净 JSON

现成爬虫与 AI 智能体

试用 Apify