OTRouterClaude、GPT 一个 Key 调用看价格 →
产品与应用重要官方发布 · blogs.nvidia.com

NVIDIA Vera Rubin 首次亮相 MLPerf:覆盖全部训练基准,智能体推理每瓦吞吐提升超 10 倍

OmniTools 11月17日消息,MLPerf Training v6.1 与 MLPerf Endpoints v1.0 最新结果公布,NVIDIA Vera Rubin 平台首次参与基准测试。NVIDIA 表示,其是本轮唯一在全部 MLPerf Training v6.1 基准上提交结果的平台,覆盖大语言模型、图像生成、推荐系统和强化学习后训练。

在训练侧,Vera Rubin NVL72 首次亮相,单 GPU 性能最高达到高度优化的 NVIDIA GB300 NVL72 的 2 倍。DeepSeek-V3 基准上,Vera Rubin NVL72 从 256 块 GPU 扩展至 1024 块 GPU,扩展效率约 97%,训练时间由 16 分钟降至约 4 分钟。NVIDIA 还使用 10240 块 GB300 GPU 运行该基准,Microsoft Azure 则以 10240 块 GB200 GPU 达到相同规模。

在面向智能体推理的 MLPerf Endpoints 首次提交中,NVIDIA 称 Vera Rubin 在智能体 AI 的每瓦吞吐量上实现超过 10 倍的代际提升。以 Kimi K3 为例的暂定结果显示,在相同响应速度下,Vera Rubin NVL72 的每瓦吞吐量超过 GB300 NVL72 的 10 倍;该暂定结果尚待 MLCommons Association 验证。NVIDIA 称,本轮 MLPerf Training 共有 ASUS、Azure、Cisco、CoreWeave、Dell Technologies、Google Cloud、HPE、Oracle、Supermicro 等 20 家合作伙伴提交结果。

文中提到的模型

返回快讯