Unsloth、MiniMax-H3-ImageのGGUF版を公開 推奨は13.61GB

UnslothはMiniMaxAIの画像生成・編集モデルMiniMax-H3-ImageのGGUF量子化版を、Hugging Faceのunsloth/MiniMax-H3-Image-GGUFで公開しました。66 GBあるbf16 DiTを、推奨ファイルUD-Q4_K_XLでは13.61 GBまで縮め、stable-diffusion.cppで実行します。

何が新しいか

各ファイルは、MiniMax-H3-Imageのbf16 transformerとその各ステップ用ヘッドを置き換えます。対象は、66 GBのbf16 DiTを保持できないGPU、Apple Silicon、CPUでのtext-to-imageと画像編集です。UD-が付くファイルはUnsloth Dynamic quantsです。MiniMax-H3-Imageのサポートは上流のstable-diffusion.cppに#2324で取り込まれており、ファイルは上流版とunslothai/stable-diffusion.cppの両方で読み込めます。Unslothは、AIモデルの実行と学習のためのツール群を開発するチームです。

量子化ごとのサイズと品質

LPIPSは同一シードで生成したbf16出力との比較値で、低いほどbf16に近い結果です。ピークVRAMは1024x1024で計測した値で、推奨のUD-Q4_K_XLはA100で14.8 GiBでした。

ファイル	サイズ	LPIPS 1024	PSNR 1024	LPIPS 2048	ピークVRAM
Q2_K	7.75 GB	0.438	13.9 dB	0.435	9.4 GiB
UD-Q2_K_XL	8.68 GB	0.347	16.1 dB	0.332	10.2 GiB
Q3_K_M	10.42 GB	0.271	17.5 dB	0.288	11.9 GiB
UD-Q3_K_XL	11.36 GB	0.242	18.1 dB	0.233	12.7 GiB
Q4_K_M	12.72 GB	0.195	19.2 dB	0.196	14.0 GiB
UD-Q4_K_XL(推奨)	13.61 GB	0.172	20.4 dB	0.171	14.8 GiB
UD-Q5_K_XL	15.47 GB	0.154	22.2 dB	0.113	16.8 GiB
UD-Q6_K_XL	17.58 GB	0.130	23.2 dB	0.128	18.8 GiB
Q8_0	22.03 GB	0.083	26.8 dB	0.048	23.0 GiB

bf16に最も近い出力を得るにはQ8_0を使います。メモリが厳しい環境向けにはUD-Q2_K_XLがあり、最小のQ2_K(LPIPS 0.438)よりも品質の数値が明確に良好です。

速度は次のとおりです。

• 24 GB L4、1024x1024、sd-cli: 約1.2秒/ステップ
• 同条件、Unsloth Studio経由: 約1.7秒/ステップ
• L4で--max-vram 12を指定: 約3.9秒/ステップ。生成画像は制限なしの場合とバイト単位で同一です。
• CPUのみ、512x512: 約47秒/画像

試し方・要件

VAEには元モデルのリリース版vae/diffusion_pytorch_model.safetensorsを使います。テキストエンコーダーにはMiniMax-H3のQwen3-VL-32Bエンコーダーを使い、unsloth/MiniMax-H3-GGUFにあるqwen3vl_32b_minimax_h3-Q4_K_M.gguf(18.2 GB)を指定します。text-to-imageのコマンド例は次のとおりです。

sd-cli --diffusion-model minimax_h3_image_pruned-UD-Q4_K_XL.gguf \
  --vae diffusion_pytorch_model.safetensors \
  --llm qwen3vl_32b_minimax_h3-Q4_K_M.gguf \
  -p "A weathered lighthouse keeper in a yellow oilcloth coat stands on a wet stone pier at dusk ..." \
  -W 1024 -H 1024 --cfg-scale 1.0 --steps 6 --sampling-method euler --sigmas minimax-h3-image --rng cpu

• MiniMax-H3-ImageはCFGなしの6ステップに蒸留されています。--cfg-scale 1.0、--steps 6、--sigmas minimax-h3-imageは変更せずに使います。
• 画像編集では、-r(--ref-image)で参照画像を1枚以上追加します。プロンプト内では、引数の順番で参照画像を指します。
• 編集時は-W/-Hを参照画像のアスペクト比に合わせます。正方形サイズを指定すると、横長の参照画像は切り取られます。
• 小容量GPUでは--offload-to-cpuを付けるか、--max-vramでGPUの使用量に上限を設けます。MacとCPUのみの環境では、パイプライン全体をRAMから実行できます。
• GGUFの読み込みでは任意コードを実行しません。

ライセンス

各ファイルはMiniMax-H3-ImageのModel Derivativesとして、同モデルのライセンス(other)で配布されています。量子化にあたり、DiTはGGUFに変換され、time modulationはカーブ形式で格納されています。