Liquid AI、意思決定モデルd1-Omni-2BのGGUF版を公開

Liquid AIは、テキスト・画像・音声向けの意思決定モデルd1-Omni-2BのGGUF版LiquidAI/d1-Omni-2B-GGUFをHugging Faceで公開しました。CPUおよびGPUでのローカル推論向けで、llama.cppでの対応はggml-org/llama.cpp#31275のマージ待ちです。

Liquid AIはMITの計算機科学・人工知能研究所から生まれた基盤モデル開発企業で、パソコンや携帯端末などへの実装を対象にLiquid Foundation Modelsを展開しています。

何が新しいか

ベースモデルのd1-Omni-2BはLFM3-Omni-2Bを基に構築されています。トークンを生成せず、1回のフォワードパスで較正済みの回答を返す点が特徴です。パイプライン種別はaudio-text-to-text、ライセンスはotherです。

llama.cppでの対応範囲

項目	内容
対応する質問形式	noul、choice、score
対応する入力	テキスト、JSON、画像、音声クリップ、音声による質問
未対応	multiple choice("multiple": true)、extraction、estimates、boxes

試し方・要件

PR ggml-org/llama.cpp#31275がマージ・リリースされるまでは、同PRからllama.cppをビルドする必要があります。サーバーは次のコマンドで起動します。

llama-server -hf LiquidAI/d1-Omni-2B-GGUF:Q8_0 -b 8192 -ub 8192

質問は1バッチで読み込まれるため、-bと-ubは質問のstateとメディアを保持できる大きさが必要です。画像1枚が使えるのは最大で-ubの半分で、8192に設定すると画像1枚あたり4096トークンの予算を確保できます。値を小さくすると予算も下がります。

起動後は/v1/systemoneエンドポイントにJSONで質問を送ります。

• テキストはstate、画像はimages、音声はfilesにdata URI(base64)で含めます。
• questionsに質問名ごとにtype、instructions、必要に応じてcriteriaを指定します。choiceは選択肢をキーと説明の組で、scoreは段階を配列で与えます。
• 音声による質問では、instructionsにinput_audioパート(dataとformat: "wav")を指定します。
• 画像または音声がstate全体を構成する場合、stateはnullにできます。