Liquid AI、活性2Bの推論MoE「LFM2.5-24B-A2B」を公開

スペック

総パラメータ24B
活性パラメータ2B
コンテキスト長131K tokens
重みの公開オープンウェイト
4bit量子化の目安メモリ約14.4GB(16GB以上のメモリで実行可能な目安)

メモリの目安はパラメータ数×0.6バイトの概算で、実際はコンテキスト長と実装で変わります

Liquid AIは2026年10月13日、オンデバイスのエージェント向け推論モデル「LFM2.5-24B-A2B」をHugging Faceで公開しました。総パラメータ24B、活性パラメータ2BのMoEで、LiveClawでは48.09とQwen3.6-35B-A3B(38.19)を上回り、Apple M5 Maxで184 tokens/sで動作します。

Liquid AIはMITの計算機科学・人工知能研究所から生まれた基盤モデル企業で、パソコンや携帯端末への実装を対象にLiquid Foundation Modelsを展開しています。

何が新しいか

LFM2.5-24B-A2Bは、最終回答の前に必ず明示的な思考を出力する推論専用モデルで、ツール呼び出しとマルチステップ処理に対応します。前身のLFM2-24B-A2Bの構成(40層、MoEブロックあたり64エキスパート、top-4ルーティング、ゲーテッド短畳み込みとGQAのハイブリッド)を引き継ぎつつ、コンテキスト長を32Kから131Kトークンへ、語彙数を65Kから128Kへ拡大しました。語彙拡張は非ラテン文字のトークン化改善を狙っています。

学習面では、事前学習を約17Tから約33Tトークンに増やし、中間学習で32Kコンテキストの2Tトークン(推論・数学・コード・指示追従・多言語に重み付け)と131Kコンテキストの300Bトークンを追加しました。事後学習はSFT、教師の専門化、非エージェント系のMOPD、エージェント系のMOPD、エージェント強化学習の5段階で、強化学習はOpenClaw、Hermes Agent、Pi、OpenCodeなどのハーネス内で行っています。

ベンチマークと速度

Liquid AIはQwen3.6-35B-A3B、Gemma-4-26B-A4B-it、Nemotron-3.5-Lightning(30B-A3B)と16ベンチマークで比較しました(全モデルvLLMで評価)。主な結果は次のとおりです。

ベンチマーク LFM2.5-24B-A2B Qwen3.6-35B-A3B Gemma-4-26B-A4B-it Nemotron-3.5-Lightning
AutomationBench 27.69 8.72 5.46 2.61
BFCLv4 65.01 65.00 57.09 53.78
ToolSandbox 80.71 75.02 72.09 75.13
LiveClaw 48.09 38.19 41.25 37.72
IFEval 96.75 93.06 92.00 94.19
IFBench 74.69 64.21 47.44 71.67
GPQA Diamond 74.42 83.69 74.90 72.42
SWE-Bench Verified (OpenCode) 51.00 66.20 25.80 53.40
SciCode 32.71 37.35 35.42 27.78

ツール利用・エージェント系8項目中5項目で首位または同等、指示追従3項目すべてで首位でした。一方、GPQA Diamond、HLE、AA-Omniscienceなどの知識系やSWE-Bench Verified、SciCodeなどのコーディング系では大きいモデルが優位で、Liquid AIは知識集約型の用途では検索やウェブ検索との併用を勧めています。

速度は、Apple M5 Maxで184 tokens/s、Ryzen AI Max+ 395で114 tokens/sのデコードで、比較対象のMoEの中で最速かつ最少メモリ、次点より最大1.7倍速いとしています。GPUでは単一のNVIDIA B300で高並列時に21K output tokens/sを超えます。

試し方・要件

LFM2.5-24B-A2BとベースモデルLFM2.5-24B-A2B-BaseはオープンウェイトでHugging Faceから取得できます。llama.cpp、MLX、vLLM、SGLang、ONNXに初日から対応しています。

Transformersではtransformers>=5.0.0が必要です。

  • pip install -U transformers
  • モデルIDLiquidAI/LFM2.5-24B-A2BをAutoModelForCausalLM.from_pretrainedとAutoTokenizer.from_pretrainedで読み込み、device_map="auto"、dtype="bfloat16"を指定
  • 対応GPUではattn_implementation="flash_attention_2"を有効化可能
  • 実行例の生成パラメータはtemperature=0.1、top_k=50、repetition_penalty=1.05

エージェントで使う場合は、OpenAI互換バックエンドでローカル提供し、ハーネスから接続します。Hermes Agentの設定例は次のとおりです。

hermes config set model.provider custom
hermes config set model.base_url http://localhost:8080/v1
hermes config set model.default LFM2.5-24B-A2B
hermes config set model.context_length 131072
hermes config set model.api_mode chat_completions
hermes config set agent.tool_use_enforcement true

ポートはバックエンドごとに異なり、llama.cppとMLXは8080、vLLMは8000、SGLangは30000、LM Studioは1234です。OpenClawとPiの設定はモデルカードに掲載されています。

この記事の固有名詞

コメント (0)

まだコメントはありません。

コメントを書く

2000文字以内