NVIDIA Vera Rubin、MLPerf Training v6.1全項目で首位

NVIDIAは、MLPerfに初参加したVera Rubinプラットフォームの結果を公開し、MLPerf Training v6.1の全ベンチマークで首位となりました。初提出のMLPerf Endpointsでは、Kimi K3でGB300 NVL72比10倍超のスループット/ワットを示しています(Vera Rubin側は検証待ちの暫定値)。

MLPerf Training v6.1の結果

MLPerf Trainingは、AIモデルを目標精度まで学習する速度を測ります。今回、大規模言語モデル、画像生成、推薦システム、強化学習ポストトレーニングを含む全ベンチマークに結果を提出したのはNVIDIAのプラットフォームだけでした。結果は2026年11月16日にMLCommonsから取得したものです。

項目 値
Vera Rubin NVL72のGPU当たり性能(GB300 NVL72比) 最大2倍
DeepSeek-V3、256 GPU時の学習時間 16分
DeepSeek-V3、1,024 GPU時の学習時間 約4分
256→1,024 GPU拡張時の効率 約97%
GB300システムでのDeepSeek-V3実行規模 10,240 GPU(今回最大)
Microsoft AzureのGB200システム規模 10,240 GPU

システム内のGPU間接続にはNVLink、データセンター内のシステム間接続にはQuantum-X800 InfiniBandとSpectrum-X Ethernetを使っています。Training には20組織のパートナーも結果を提出しました。

MLPerf Endpointsでのエージェント推論

MLPerf Endpointsは、エージェントによるコーディングや企業ワークフローを対象に、速度に加えてタスクを正しく完了できるかも評価します。Kimi K3(MLPerf Endpoints v1.0、Standardized division、Available category)での比較は以下のとおりです。

項目 Vera Rubin NVL72 GB300 NVL72
アクセラレータ数 32 48
同時クエリ数 1,024 48
TTFT P90 4,673.9 ms 2,305.1 ms
システムTPS 41,414.2 tokens/sec 2,210.4 tokens/sec
E2E平均インタラクティビティ 50.4 tokens/sec per user 56.2 tokens/sec per user
動作電力 100.89 kW 60 kW

比較は、共有する最低E2E平均インタラクティビティ50 tokens/sec per userでのキロワット当たりスループットに基づきます。GB300の結果はMLCommons Associationの検証済みですが、Vera Rubinの結果は検証待ちで、ピアレビューにより変更される可能性があります。

背景

KimiはMoonshot AIが開発するAIモデルのファミリーで、ツール利用や自律的な課題処理を想定したモデルを公開しています。NVIDIAはVera Rubinを学習、ポストトレーニング、エージェント推論向けのプラットフォームと位置づけ、CUDAベースのソフトウェアスタックの最適化で性能を引き上げ続けるとしています。詳細はMLPerf TrainingとMLPerf Endpointsの技術ブログで公開しています。

この記事の固有名詞

コメント (0)

まだコメントはありません。

コメントを書く

2000文字以内