Unsloth、ブラウザー操作とQwen-Image-2.1-Turboを追加

スペック

重みの公開Q4 GGUF(Qwen-Image-2.1-Turboについて4.2 GB)
配布形式・量子化Q4 GGUF

メモリの目安はパラメータ数×0.6バイトの概算で、実際はコンテキスト長と実装で変わります

Unslothは新リリースで、モデルがページを開いてクリックや入力を行うBrowser useと、8ステップで画像を生成するQwen-Image-2.1-Turbo(4.2 GBのQ4 GGUF)を追加しました。テキスト拡散LLMの訓練、VRAMを超えるMoE GGUFの最大3倍高速化、Mac向けMLX投機的デコーディング(最大2.8倍)も含みます。

Unslothは、AIモデルの実行と学習のためのツール群で、デスクトップアプリ、ウェブ画面、コードから利用できます。

ブラウザー操作

モデルはチャット横の専用タブでページを開き、読み取り、クリック、入力、選択、スクロールを行います。ほかのブラウザータブにはアクセスしません。ローカルモデルとAPIプロバイダーに対応し、小型のテキスト専用モデルでも動作します。

  • モデルがサインイン、フォーム送信、購入・送信・削除につながるボタンを押す前に、Unslothが確認を求めます
  • パスワード、カード番号、ワンタイムコードはモデルが入力せず、ユーザー自身が入力します
  • Settings > Browserで、モデルが開けるサイトや閲覧履歴・ダウンロードへのアクセスを選べます

チャットの「+」メニューからBrowser useを有効にし、検索やウェブサイトの利用を依頼して使います。返信内のReactコードブロック(JSX/TSX)はBrowser上でライブプレビューとして実行されます。

画像生成と訓練

Qwen-Image-2.1-TurboはQwen-Image-2.1の公式8ステップ版で、Imagesページから実行します。訓練した画像LoRAはファイルとしてエクスポートでき、ComfyUIモデルはComfyUIフォルダー内の既存テキストエンコーダーを使います。

訓練面の追加は次のとおりです。

  • 新しいDiffusionTrainerでDiffusionGemma、LLaDA、LLaDA2、Dream、Nemotron、SDARを訓練
  • loraplus_lr_ratioを設定してLoRA+で訓練、GPTQモデルのLoRAファインチューニング
  • TRL 1.15によるGRPOで動画プロンプトとツール呼び出しを訓練、AsyncGRPOTrainerは1 GPUで訓練と生成が可能
  • ツール呼び出しデータセットで各行のツール定義を含め、マルチターンのエージェントトレースに対応
  • TrainページのOffload layersにVRAM予算を設定(NVIDIA・AMD)、保存済みアダプターからLoRA訓練を継続
  • MacでLaya・Clefの判定モデルを訓練(Clefは画像も可)

性能改善

項目 内容
VRAMを超えるMoE GGUF NVIDIA・AMD GPUで最大3倍高速
サンプルパッキング訓練 flash-attnとxformers未導入時に最大8倍高速(NVIDIA、PyTorch 2.12+)
MLX投機的デコーディング Macで応答が最大2.8倍高速、出力は同一
llama-serverマイクロバッチ MoEエキスパートがRAMへ退避する場合に2048へ引き上げ

MLXの投機的デコーディングはドラフト深度を自動設定し、MTP、DFlash、DSpark、EAGLE-3のドラフターに対応します。

その他とインストール

AMD GPUでオプションのvLLMエンジンをLinuxとWindowsのWSL経由で使えます。DeepSeek-OCRとDeepSeek-OCR-2の実行、パラメータ数・コンテキスト長・組織によるHubモデルの絞り込み、GPU負荷・温度・電力を示すLive monitor、AGENTS.mdのチャット指示への読み込みにも対応しました。Deep ResearchはMCPツールを情報源として引用できます。インストーラー(install.sh / install.ps1)はunsloth>=2026.10.3を要求します。

この記事の固有名詞

コメント (0)

まだコメントはありません。

コメントを書く

2000文字以内