- 发布日期
消息称英伟达重启推理预填充优化芯片 Rubin CPX 项目,设计大幅调整
- 作者

- 姓名
- 荷鲁斯快报
- 社交账号
知名分析师郭明錤披露,英伟达已重新启动其专用于人工智能推理预填充阶段的加速GPU项目“Rubin CPX”,但设计方案已发生重大变更,预计将于2027年第一季度投入生产。
这一消息标志着英伟达在AI推理硬件优化领域的最新动向。传统AI推理过程包含预填充和解码两个阶段,其中预填充涉及处理输入并构建关键的KV缓存,目前占据了超过50%的推理计算负荷。
从芯片规格来看,新版Rubin CPX的算力水平接近标准的Rubin GPU,但其预填充性能得到了进一步优化。该芯片的最高功耗维持在2300W,但内存配置从旧方案的128GB GDDR7升级为168GB HBM4,这很可能采用了7颗24GB显存芯片的设计方案。
在硬件架构层面,英伟达为新版Rubin CPX设计了灵活的部署方式。每8颗芯片将组成一个计算托盘,每个托盘配备高达1.34TB的HBM总内存,能够满足绝大多数长上下文预填充和KV缓存构建的需求。
更高级别的系统集成方案中,8个计算托盘将构成一个机架模组,模组内部通过Spectrum-6全铜以太网进行横向扩展。每个独立的MGX ETL机架可容纳1至4组这样的机架模组,模组间则采用Spectrum-6结合OSFP光学方案实现高速互联。
在整体系统部署建议上,英伟达提出将新版Rubin CPX与标准Rubin芯片按1:1的比例配对使用。Rubin CPX专用的ETL机架与Vera Rubin NVL72标准机架之间,将通过基于以太网的RDMA技术进行高速数据连接。
分析师指出,新方案的核心优势在于更灵活的部署方式和更低的总体拥有成本。专用的预填充加速芯片能够将计算资源精准分配到推理流程中最耗算力的环节,从而提升数据中心整体的能效比和经济效益。
这一项目的重启与重新设计,反映了英伟达对AI推理市场技术需求的快速响应。随着大语言模型上下文窗口的不断增长,高效处理预填充阶段已成为提升AI服务性能的关键挑战,英伟达正试图通过硬件创新来解决这一行业痛点。