vLLM-Omniチームは、MiniMaxのオープンウェイト画像生成・編集モデルH3-ImageをNVIDIA Vera RubinでDay-0対応させました。4基のGPUで、ネイティブ4096×4096画像の生成が短いプロンプトのサービングベンチマークで中央値0.866秒(見出しでは0.87秒)に達したと2026年11月12日に発表しています。
vLLMは大規模言語モデルの推論とAPI配信のためのライブラリで、MiniMaxはマルチモーダルモデルを開発するAI企業です。
何が新しいか
H3-Imageは、テキストからの画像生成と画像編集を1つのチェックポイントで扱います。構成はQwen3-VLエンコーダー、33.1Bのdense DiT、画像VAEです。6サンプリングステップでアップスケーラーを使わずにネイティブ高解像度を出力し、参照画像は最大16枚まで扱えます。4096×4096出力では、VAEデコード前に16,384個のターゲット画像トークンを6ステップで処理します。
vLLM-OmniチームはRubin対応で2点を変更しました。
- MXFP8統合: Omniのdiffusion線形層をvLLMのオンラインMXFP8ロードとカーネル選択に接続しました。Rubinでは対象のDiT線形層がFlashInfer CuTe-DSL MXFP8 GEMMを、attentionが
TRTLLM_ATTNを使います。テキストエンコーダーとVAEはネイティブ精度のままです。 - 4K出力の安定化: 4Kリクエストを繰り返すと出力転送経路でストールが起きていました。チームはデコード済みuint8テンソルの転送後、最終的な画像レイアウト変換をCPU側に移しました。
このほか、Ulysses SP4によるシーケンス分散、AdaLNキャッシュ、VAEタイルのGPU分散とCUDA Graph replay・複数CUDA streamの併用を使っています。4基GB300でのBF16制御測定では、VAEデコードが2.635秒から0.213秒に縮み、エンドツーエンドは約4.0秒から1.6秒(2.5倍)になりました。ランタイムはCUDA 13.4です。
ベンチマーク
| 項目 | 条件 | 結果 |
|---|---|---|
| 4K生成レイテンシ(Rubin) | 4基、SP4、MXFP8、同時実行数1、短いプロンプト | 中央値0.866秒(p95 0.944秒) |
| 4Kスループット(Rubin) | SP1×DP4、同時実行数8 | 6,115 images/hour(中央値4.411秒) |
| 4Kスループット(Rubin) | SP4、同時実行数2 | 4,407 images/hour(中央値1.421秒) |
| 4Kテキスト・画像生成 | 4基GB300 | 平均1.48秒 |
| 4K画像編集(参照1枚) | 4基GB300 | 平均1.77秒 |
| 4Kテキスト・画像生成 | 単一RTX 5090、CPU layerwise offload | 52.29秒 |
| 4K画像編集(参照1枚) | 単一RTX 5090、CPU layerwise offload | 61.45秒 |
| 2Kテキスト・画像生成 | 単一H200、BF16、常駐ウェイト | 平均1.49秒 |
RubinはSP4の4基構成で、レイテンシがGB200比2.21倍、GB300比1.64倍、ピークスループットがGB200比2.20倍、GB300比1.60倍でした。レプリカ構成はSP4よりスループットが38.7%高くなりますが、1秒未満の応答とピークスループットは別の動作点です。短文ベンチマークは122〜160文字の20プロンプト×8シードの160リクエストで測定しています。各数値はGPU数・精度・メモリ配置が異なるため、GPUアーキテクチャ単体ではなくデプロイ済みシステムの比較です。
試し方と対応ハードウェア
vLLM-OmniでH3-Imageを実行し、単一のRTX GPUまたは複数のデータセンターGPUに配置できます。Text-to-Imageはプロンプトのみ、Image Editはプロンプトと参照画像1・2・4・8・16枚で動きます。
- NVIDIA RTX: RTX 5090とRTX 5080はDiTとテキストエンコーダーをCPUにオフロードし、VAEをeagerでデコードします。RTX 6000DとRTX PRO 6000はDiTを常駐させ、エンコーダーをオフロードし、VAE CUDA Graphを使います。
- AMD Instinct: MI325X/MI350Xで1〜8基、BF16と
FLASH_ATTNを使います。ROCmでは並行graph replayでのハングを避けるため、VAE graphレプリカを1つにしています。 - Intel Arc Pro B70: 推奨は32GBカード4枚でDiT TP4とテキストエンコーダーのlayerwise offloadです。小規模構成ではDiTウェイトもオフロードします。
- Huawei Ascend: Atlas 800I A2、Atlas 800T A3、Atlas 350(A5)に対応し、BF16とeager実行で1・2・4 NPUを測定しています。
- Moore Threads MTT S5000: MUSA実装で、80GBカードでのTP2・TP4構成を含みます。
NVIDIA以外はコミュニティによる検証で、各自のワークロードと構成で測定しています。
収益試算
チームは、MiniMax公式のStandard 4K価格例(発売割引前、1枚USD 0.06879)を販売価格と仮定して試算しました。4基のRubinシステムで1日146,755枚、粗収益は課金稼働率100%でUSD 105.16/GPU/hour、75%でUSD 78.87/GPU/hourです。運用費を含まず、日間容量は測定レートからの外挿で、24時間負荷試験の結果ではありません。
まだコメントはありません。