Unsloth、20BのQwen-Image-EditをDynamic 2.0でGGUF化

スペック

総パラメータ20B
ライセンスapache-2.0
配布形式・量子化GGUF
4bit量子化の目安メモリ約12GB(16GB以上のメモリで実行可能な目安)

メモリの目安はパラメータ数×0.6バイトの概算で、実際はコンテキスト長と実装で変わります

Unslothは、20Bの画像編集モデルQwen/Qwen-Image-EditをUnsloth Dynamic 2.0方式で量子化したGGUF版unsloth/Qwen-Image-Edit-GGUFをHugging Faceで公開しています。Unslothは、AIモデルの実行・学習や量子化形式への出力に対応するツール群を開発するチームです。

何が新しいか

Unslothは、この量子化にUnsloth Dynamic 2.0を使い、重要なレイヤーをより高い精度へアップキャストしています。配布形式はGGUF、タスク種別はimage-to-image、ライセンスはapache-2.0です。

元モデルQwen-Image-Editの特徴

Qwen-Image-Editは20BのQwen-Imageを基盤とする画像編集版です。入力画像をQwen2.5-VL(視覚的な意味制御)とVAE Encoder(外観制御)へ同時に入力します。原文は次の機能を挙げています。

  • 外観編集: 要素の追加・削除・変更を、他の領域を変えずに行う
  • 意味編集: IP制作、物体の回転、スタイル変換など、意味の一貫性を保ちつつ画素全体を変える
  • テキスト編集: 画像内の中国語・英語テキストを、元のフォント・サイズ・スタイルを保って追加・削除・変更する

試し方

モデルカードのQuick Startは、最新のdiffusersのインストールから始まります。

pip install git+https://github.com/huggingface/diffusers

サンプルコードはQwenImageEditPipeline.from_pretrained("Qwen/Qwen-Image-Edit")で読み込み、torch.bfloat16に変換してcudaへ移します。入力画像をconvert("RGB")で読み込み、prompt、generator(torch.manual_seed(0))、negative_promptなどを指定して実行します。

パラメータ サンプル値
true_cfg_scale 4.0
num_inference_steps 50
negative_prompt " "

出力はoutput_image_edit.pngとして保存されます。

この記事の固有名詞

コメント (0)

まだコメントはありません。

コメントを書く

2000文字以内