NVIDIAは、MLPerfに初参加したVera Rubinプラットフォームの結果を公開し、MLPerf Training v6.1の全ベンチマークで首位となりました。初提出のMLPerf Endpointsでは、Kimi K3でGB300 NVL72比10倍超のスループット/ワットを示しています(Vera Rubin側は検証待ちの暫定値)。
MLPerf Training v6.1の結果
MLPerf Trainingは、AIモデルを目標精度まで学習する速度を測ります。今回、大規模言語モデル、画像生成、推薦システム、強化学習ポストトレーニングを含む全ベンチマークに結果を提出したのはNVIDIAのプラットフォームだけでした。結果は2026年11月16日にMLCommonsから取得したものです。
| 項目 | 値 |
|---|---|
| Vera Rubin NVL72のGPU当たり性能(GB300 NVL72比) | 最大2倍 |
| DeepSeek-V3、256 GPU時の学習時間 | 16分 |
| DeepSeek-V3、1,024 GPU時の学習時間 | 約4分 |
| 256→1,024 GPU拡張時の効率 | 約97% |
| GB300システムでのDeepSeek-V3実行規模 | 10,240 GPU(今回最大) |
| Microsoft AzureのGB200システム規模 | 10,240 GPU |
システム内のGPU間接続にはNVLink、データセンター内のシステム間接続にはQuantum-X800 InfiniBandとSpectrum-X Ethernetを使っています。Training には20組織のパートナーも結果を提出しました。
MLPerf Endpointsでのエージェント推論
MLPerf Endpointsは、エージェントによるコーディングや企業ワークフローを対象に、速度に加えてタスクを正しく完了できるかも評価します。Kimi K3(MLPerf Endpoints v1.0、Standardized division、Available category)での比較は以下のとおりです。
| 項目 | Vera Rubin NVL72 | GB300 NVL72 |
|---|---|---|
| アクセラレータ数 | 32 | 48 |
| 同時クエリ数 | 1,024 | 48 |
| TTFT P90 | 4,673.9 ms | 2,305.1 ms |
| システムTPS | 41,414.2 tokens/sec | 2,210.4 tokens/sec |
| E2E平均インタラクティビティ | 50.4 tokens/sec per user | 56.2 tokens/sec per user |
| 動作電力 | 100.89 kW | 60 kW |
比較は、共有する最低E2E平均インタラクティビティ50 tokens/sec per userでのキロワット当たりスループットに基づきます。GB300の結果はMLCommons Associationの検証済みですが、Vera Rubinの結果は検証待ちで、ピアレビューにより変更される可能性があります。
背景
KimiはMoonshot AIが開発するAIモデルのファミリーで、ツール利用や自律的な課題処理を想定したモデルを公開しています。NVIDIAはVera Rubinを学習、ポストトレーニング、エージェント推論向けのプラットフォームと位置づけ、CUDAベースのソフトウェアスタックの最適化で性能を引き上げ続けるとしています。詳細はMLPerf TrainingとMLPerf Endpointsの技術ブログで公開しています。

まだコメントはありません。