KoboldCpp 1.125、Inkling 2 Mini対応とBeaverNetワーカー統合

KoboldCpp 1.125は、Inkling 2 MiniやXing 4.0 29BA4Bなど新しいテキスト生成モデル、上流llama.cppのTTSモデル、BeaverNetワーカーのホスティング、WebSearchのMCP連携に対応しました。--password使用時は全生成エンドポイントがAPIキーで保護される破壊的変更も入っています。

KoboldCppはLostRuinsが公開する、llama.cppを基にしたAI生成ソフトウェアで、単体の実行ファイルとして配布されています。

新しいモデル対応

  • テキスト生成: Inkling 2 Mini、Xing 4.0 29BA4Bなど上流由来の新モデル
  • 音声: 上流llama.cppのTTSモデル(例: Kokoro)、Qwen3ASRとSenseVoiceの文字起こし、MMSとQwen3の強制アライメント。文字起こしと組み合わせると単語ごとのタイムスタンプを生成できます。既存のaudiocpp実装も引き続き動作します
  • reference_textが必要な音声クローンTTSは、文字起こしモデルが読み込まれていれば自動文字起こしを試みます
  • 画像: MiniMax H3 Image対応(@wbruna)。一部モデルでは参照画像をプロンプト内で参照でき、通常は編集非対応のモデルでも簡易的な編集が可能です
  • YuE2のVRAM使用量を削減し、CUDA上のchatterbox TTSを修正しました

既知の問題と使用条件

  • Inkling 2 MiniのUnsloth版量子化は現時点で正常に動作しないため、ggml-org版を使います
  • CUDAで部分オフロードと大きなプロンプトを組み合わせると、inkling2の出力が破損する場合があります(ggml-org#32710、#32778)。--no-op-offloadで緩和できます
  • Kokoroは案内のTTSモデルを読み込み、mmprojを--wavtokenizerに指定します
  • MOSS imageでは対応するQwen 9Bのmmprojを--sdclip2に指定すると参照画像を使えます
  • MiniMax H3 Image向けには.kcpptテンプレートが用意されています

サーバー・エージェント関連の変更

  • BeaverNetは@drummervが運営する、AI Hordeに似た無料のボランティア運営LLMサービスです。KoboldCppからどちらにもワーカーとして参加し、自分のGPUでホストするモデルを提供できます
  • WebSearchを有効にするとMCPツールとして利用できます
  • gzip圧縮HTTPリクエストに対応し、タイムアウト値を--reqtimeoutに統一しました
  • sd.cppのsdcpp API向け互換レイヤーを追加しました
  • 切断後の画像生成再開と明示的な中止は、Poor connection modeで利用できます
  • KoboldCpp Agentに専用のdeleteツールと、ディスク上の画像を次のメッセージに添付する/attachを追加し、macOSビルドへの同梱漏れを修正しました
  • サーバー側保存をアトミック化し、Kobold Liteはブラウザー保存スロットを最大20に拡張、使用済みコンテキストトークン数を表示します

破壊的変更

項目 内容
--password 全生成エンドポイントがAPIキー必須に。noscriptなどは動作しなくなります。SDUIとKoboldAI LiteはA1111エンドポイント経由の画像生成・画像解析でAPIキーに対応
引数名 --whispermodelを--transcribemodelに改名
LTX動画 音声対応を廃止

入手と起動

環境 バイナリ
NVIDIA GPU(Windows / Linux) koboldcpp.exe / koboldcpp-linux-x64
古いCPU・古いNVIDIA GPUで通常版が動かない場合 oldpc版(Cuda11 + AVX1)
NVIDIA GPUなし・CUDA不要 nocuda版
AMD nocuda版のVulkanを推奨、LinuxはROCmローリングバイナリも可
Mシリーズ Mac koboldcpp-mac-arm64

すべてのWindowsビルドがWindows 7に対応しました。@Harishmcwは実験的なWindows ARMビルド向けCIを追加しました。起動オプションは--helpで確認し、CLIまたはGUIでモデルを選び、読み込み後はhttp://localhost:5001またはKoboldAIクライアントから接続します。

この記事の固有名詞

コメント (0)

まだコメントはありません。

コメントを書く

2000文字以内