- 发布日期
AMD 以 512 个 MI355X 刷新纪录、英伟达 Vera Rubin 首次现身
- 作者
- 姓名
- 荷鲁斯快报
- 社交账号
MLPerf Inference v6.1 的评测结果于 9 月 16 日公布，AMD 与英伟达同步提交了各自的推理性能数据。AMD 宣布以每秒 575 万个 token 的速度在 512 个 GPU 规模下创下新的 MLPerf 纪录，这是该公司迄今为止规模最大的一次提交。英伟达方面，尚未正式发布的 Vera Rubin VR200 首次出现在这一推理基准测试中。
MLPerf Inference 是由 MLCommons 维护的推理基准测试套件，用于衡量不同硬件在 AI 推理任务中的吞吐和延迟表现。最新发布的 6.1 版重点集中在 AI 推理吞吐、扩展效率以及不同 GPU 配置下的表现。该套件中的离线测试强调批量处理能力，通常用于衡量系统在非实时场景下的最大吞吐；服务器测试则强调在线服务场景中的吞吐与响应能力，更接近实际部署中的请求处理环境。
在 DeepSeek R1 测试项目中，AMD 以 512 个 Instinct MI355X GPU 参赛，离线成绩为 2,901,950 tokens/s，服务器成绩为 2,405,310 tokens/s。AMD 表示，这一结果再次证明了其性能、规模、软件成熟度和可复现性。512 卡的提交规模也使其成为本轮评测中配置最大的方案之一。
英伟达在同一项目中提交了 GB300 和 GB200 的 288 GPU 配置。其中 GB300 的离线成绩为 2,705,130 tokens/s，服务器成绩为 2,028,030 tokens/s。由于 AMD 与英伟达提交的 GPU 数量存在差异，上述数据仅供参考，不能直接用于对等比较。
更受关注的是英伟达 Vera Rubin VR200 的首次亮相，该平台在本次评测中共出现 36 GPU 和 72 GPU 两种配置。在相同的 72 个 GPU 配置下，Vera Rubin（VR200）比 GB300 快 95%。此外，36 GPU 配置的版本也比 72 GPU 配置的 GB200 更快。
从本轮结果看，两家厂商的提交重点都放在大规模集群的扩展效率上，而非单卡峰值性能。AMD 通过 512 卡的大规模配置强调其超大规模部署能力，英伟达则同时覆盖 GB300、GB200 以及下一代 Vera Rubin 平台。由于各家配置规模不同，跨厂商的横向对比仍受明显限制。
随着 Vera Rubin 等新一代架构进入 MLPerf 推理基准，后续轮次的成绩有望出现更大幅度的变化。厂商在吞吐与延迟之间的取舍，以及各自软件栈的成熟程度，也将继续成为数据中心硬件选型时的重要参考。
