Unsloth Desktop、定期実行とMiniMax-M3.1-Flash 428Bに対応

スペック

総パラメータ428B
活性パラメータ23B
コンテキスト長最大1M tokens
重みの公開GGUF
配布形式・量子化1-bit(GGUF)
4bit量子化の目安メモリ約256.8GB(512GB以上のメモリで実行可能な目安)

メモリの目安はパラメータ数×0.6バイトの概算で、実際はコンテキスト長と実装で変わります

UnslothはUnsloth Desktopの新リリースで、スケジュールタスク、FLUX.3の画像編集、総パラメータ428B(活性23B)のMoEモデルMiniMax-M3.1-Flash、NVIDIAの動画モデルCosmos3-Edgeへの対応を追加しました。Unslothは、AIモデルの実行と学習のためのツール群で、デスクトップアプリ、ウェブ画面、コードから利用できます。

何が新しいか

  • スケジュールタスク: ローカルモデルまたは接続済みAPIでプロンプトを定期実行します。
  • 保存プリセット: モデルピッカーでRun設定をモデルごとの名前付きプリセットとして保存できます。最後に選んだプリセットは、API経由の読み込みを含め次回の読み込みに使われます。
  • MiniMax-M3.1-Flash: コーディング、ツール利用、エージェントワークフロー向けのMoEモデルで、最大1M tokensのコンテキストに対応します。GGUFで提供されます。
  • FLUX.3 Klein編集: Images > Editで、写真の寸法を保ったままプロンプトで編集できます。
  • Cosmos3-Edge: VideoページでテキストまたはImageから動画を生成します。
  • Detailer: Imagesページで顔や手など指定した対象を高解像度で再描画します。SAM 3とインペイント可能なモデルが必要です。
  • そのほか、長いプロンプト処理中のGGUFチャットに進捗と残り時間を表示し、APIページに提供中モデルごとのコンテキスト使用量、速度、リクエスト数を表示します。

性能改善の数値

項目 条件 改善
Mac MLXチャット ドラフトモデル使用時 最大16%高速
Z-Image GGUF(テキストから画像) Apple Silicon、MLXエンジン既定 1.5〜2倍高速
Wan2.1 1.3B テキストから動画 RTX 30シリーズより古いNVIDIA GPU 約5倍高速
GRPO(vLLMで生成) Linux+NVIDIA GPU、16-bit LoRA ステップあたり最大1.9倍
GRPO(vLLMなし) NVIDIA GPU、LlamaとQwen3 ステップあたり最大4.4倍

組み込みドラフトモデル付きのMLXモデルは、別途ダウンロードなしで自動的にそれを使います。画像・動画レンダリング終了時のメモリ使用量も減り、低メモリのMacでスワップによる減速が起きにくくなりました。学習面では、UNSLOTH_TP_SIZEにGPU数を設定してtorchrunで起動すると、LoRA/QLoRA学習で各層を複数GPUに分割できます。

使い方と要件

  • スケジュールタスク: サイドバーのMoreメニューからScheduledを開き、1回、毎日、平日、毎週、毎月から選びます。各回答は新しいチャットとして保存されます。モデルは読み込み済みモデル、端末上のモデル、接続済みAPIプロバイダーのモデルから選べます。モデルが未読み込みの場合は、「Switch automatically when I'm away」を有効にしない限り読み込み前に確認します。通知は毎回、失敗時のみ、なしから設定します。タスクはUnslothの実行中のみ動作し、ツールとウェブ検索は使いません。
  • MiniMax-M3.1-Flash: 1-bit GGUFでもRAMとVRAMの合計で少なくとも130 GBが必要です。
  • セキュリティ変更: Unsloth APIキーを使うアプリは、サンドボックス外でのPython/ターミナル呼び出しを自己承認できなくなりました。転送されたクライアントIPも既定で信頼しません。独自のリバースプロキシの背後ではUNSLOTH_STUDIO_TRUST_FORWARDED=1を設定しないと、全ユーザーが1つのログインレート制限を共有します。
  • インストール: install.shとinstall.ps1のピンはunsloth>=2026.10.8、unsloth-zoo>=2026.10.8に更新されました。Unsloth Desktopは無料のオープンソースで、Windows(ARM64含む)、macOS、Linux(x64/ARM64のdeb、x64のAppImage)向けに配布されます。一部Windows PCで「llama-server failed to start」によりGGUFが読み込めない問題も修正されています。

この記事の固有名詞

コメント (0)

まだコメントはありません。

コメントを書く

2000文字以内