Unslothは、総パラメータ552B(活性約16B)のDeepSeek-V4.1-Flash-1017と、Black Forest LabsのFLUX.3 Image Kleinをローカルで実行できるようにしました。あわせてチャットでの画像・動画生成、FSDP2によるマルチGPU学習、Claude Code・Codex・CursorとのMCP連携も追加しています。
Unslothは、AIモデルの実行と学習のためのツール群で、デスクトップアプリ、ウェブ画面、コードから利用できます。
DeepSeek-V4.1-Flash-1017
DeepSeek-V4.1-Flash-1017はDeepSeek-V4.1-Flashの更新版で、原文は推論・コーディング・エージェント性能の向上と出力の短縮を挙げています。552Bに加えてEngram tableに196Bのパラメータを持ち、コンテキスト長は1M tokensです。Engram tableをSSDに置けば、1-bitで約125 GB、4-bitで300 GBのメモリで動きます。重みはGGUFで配布されています。
Terminal-Bench 4.0のスコアは42.3で、従来のDeepSeek-V4.1-Flashの31.2から上がりました。思考モードは高いeffortでデフォルト有効で、lowからmaxまで選べるほか、無効化もできます。
FLUX.3 Image Kleinと画像・動画機能
| 項目 | 内容 |
|---|---|
| 総パラメータ | 5.6B |
| GPUメモリ要件 | 24 GB |
| 参照画像数(編集) | 最大10枚 |
| 配布 | GGUF、未蒸留のKlein Base |
FLUX.3 Image Kleinはテキスト描画に対応し、GGUFは対応GPUのないコンピューターでも動きます。デフォルト有効のEnhance promptは短いプロンプトを詳細なキャプションに展開します。Qwen-Image-Edit-2509と2511は1回の編集で最大3枚の画像を受け付けるようになりました。
専用GPU搭載機では、画像・動画モデルをチャットモデルと並べてロードし、チャット内で画像や再生可能な動画を生成できます。Keep chat context across unloadsを有効にしておけば、GGUFチャットモデルが画像・動画モデルに置き換わっても会話を再読込せずに続けられます。
学習とエージェント連携の使い方
- PythonでLoRA、QLoRA、フルファインチューニングをFSDP2で複数GPUに分散できます。長いシーケンス(パック済みを含む)は
context_parallel_sizeで分割します。 - 事前のGPU確認には
unsloth doctor --gpusを使います。 - フルファインチューニングのオプティマイザメモリは
optim = "adamw_flash"で削減でき、UNSLOTH_OFFLOAD_OPTIMIZER_STATE=1でオプティマイザ状態をシステムメモリに置けます(速度は低下します)。 - MCP接続は
unsloth mcp add claude-code(またはcodex、cursor)で行います。接続したエージェントはデータセットのアップロード、学習開始、生成チェックポイントのロードができます。
性能改善
lora_dropoutやlora_biasを使うLoRA学習は融合カーネルで1ステップ約28%高速になりました。Gemma 4のグローバルアテンション層はNVIDIA Ampere以降でアテンションが1.4〜2.1倍高速、メモリは最大4.9分の1です。MLX上のQwen3.8-Flash-NextはM5 Macで最大1.4倍、M1〜M4 Macで最大1.2倍高速になりました。NVIDIA GPUやROCmのないPCでは、VulkanでGGUFをGPU実行できます。
まだコメントはありません。