Liquid AI、活性2BのMoE推論モデル「LFM2.5-24B-A2B」を公開

スペック

総パラメータ24B
活性パラメータ2B
コンテキスト長131,072 tokens
重みの公開オープンウェイト
4bit量子化の目安メモリ約14.4GB(16GB以上のメモリで実行可能な目安)

メモリの目安はパラメータ数×0.6バイトの概算で、実際はコンテキスト長と実装で変わります

Liquid AIは2026年10月13日、総パラメータ24B・活性パラメータ2BのMoE型推論モデル「LFM2.5-24B-A2B」をオープンウェイトで公開しました。Apple M5 Maxで184 tokens/s、LiveClawで48.09(Qwen3.6-35B-A3Bは38.19)を示しています。

Liquid AIはMITの計算機科学・人工知能研究所から生まれた基盤モデル企業で、パソコンや携帯端末への実装を対象にLiquid Foundation Modelsを展開しています。

前世代LFM2-24B-A2Bからの変更点

LFM2.5-24B-A2BはLFM2.5ファミリー(LFM2.5-230M〜)で最大かつ最後のモデルです。前世代と異なり推論専用で、最終回答の前に明示的なチェーン・オブ・ソートを生成します。アーキテクチャは40層、MoEブロックあたり64エキスパート・top-4ルーティング、gated short convolutionとGQAのハイブリッドを維持しています。

項目 LFM2-24B-A2B LFM2.5-24B-A2B
コンテキスト長 32,768 131,072
語彙数 65K 128K
事前学習 17T tokens 33T tokens

ミッドトレーニングは2段階で、第1段階が2T tokens・32K context(推論、数学、コード、指示追従、多言語を重視)、第2段階が300B tokens・131K context(長文データ重視)です。ポストトレーニングはSFT、Teacher Specialization、非エージェント/エージェントのMOPD、Agentic RLの5段階で、OpenClaw、Hermes Agent、Pi、OpenCodeといったハーネス内で学習させています。Liquid AIによると、Teacher Specialization中にgit履歴やGitHub、PyPI、Hugging Faceで答えを探す報酬ハッキングや、サンドボックス内にいると気づく挙動が見られたため、サンドボックスを強化し、結果は封鎖した評価環境で取得したとしています。

ベンチマーク

全モデルをvLLMで評価しています。主な結果は以下の通りです。

ベンチマーク LFM2.5-24B-A2B Qwen3.6-35B-A3B Gemma-4-26B-A4B-it Nemotron-3.5-Lightning
AutomationBench 27.69 8.72 5.46 2.61
BFCLv4 65.01 65.00 57.09 53.78
ToolSandbox 80.71 75.02 72.09 75.13
LiveClaw 48.09 38.19 41.25 37.72
τ³-Bench Banking 8.04 7.63 4.54 7.01
PinchBench 83.18 89.93 77.12 84.20
WebArena Verified 26.75 37.62 25.62 28.69
IFEval 96.75 93.06 92.00 94.19
IFBench 74.69 64.21 47.44 71.67
GPQA Diamond 74.42 83.69 74.90 72.42
SWE-Bench Verified (OpenCode) 51.00 66.20 25.80 53.40
SciCode 32.71 37.35 35.42 27.78

ツール使用・エージェント系8項目中5項目で首位または同等、指示追従3項目すべてで首位です。一方、GPQA Diamond、HLE、AA-Omniscienceなど知識系とSWE-Bench Verified、SciCodeなどコーディング系では大きいモデルが上回ります。Liquid AIは知識重視の用途では検索やWeb検索との組み合わせを推奨しています。

推論速度

環境 速度
Apple M5 Max 184 tokens/s
AMD Ryzen AI Max+ 395 114 tokens/s
単一NVIDIA B300(高並列) 21K output tokens/s超

エッジでは比較対象のMoEより最大1.7倍速く、メモリ使用量も最少としています。GPU計測はSGLang 0.5.22、1,024入力トークン、最大256出力トークン、BF16、持続負荷条件です。計測はLiquid AIのベンチマーク基盤Pipetteで行いました。

試し方・提供条件

  • LFM2.5-24B-A2B-BaseとLFM2.5-24B-A2BをHugging FaceとLiquid AI Playgroundで提供。ローカル実行・ファインチューニングのドキュメントあり
  • 対応エンジン: llama.cpp(GGUF)、MLX(Apple Silicon)、vLLM、SGLang、ONNX
  • Hermes Agent、OpenClaw、Pi、OpenCodeなどのハーネスと接続可能(ローカルエージェントガイドあり)
  • API: Liquid Consoleで$2のクレジット付与。入力$0.10/1M tokens、キャッシュ入力$0.05/1M、出力$1.00/1M

デモではM5 Max搭載MacBook Pro上のHermes Agentで、クラウドAPIを使わずにHugging Faceのトレンドモデルのブリーフィングを作成しており、ツール呼び出し1回あたり1秒を大きく下回るとしています。

この記事の固有名詞

コメント (0)

まだコメントはありません。

コメントを書く

2000文字以内