Liquid AI、4ビットで約1GBのLFM3-1.7Bを公開

Liquid AIは、ローカルエージェントや特化用途向けのテキストモデルLiquidAI/LFM3-1.7BをHugging Faceで公開しました。パラメータ数は1.73Bで、4ビット精度なら約1 GBのメモリで動作し、コンテキスト長は256K tokens(入力+出力)です。

Liquid AIはMITの計算機科学・人工知能研究所から生まれた基盤モデル企業で、パソコンや携帯端末への実装を対象にLiquid Foundation Modelsを展開しています。

何が新しいか

LFM3-1.7Bは新しいtri-hybrid architectureに基づくtext-onlyモデルです。Hermes Agent、Pi、OpenClawといったagentic harness向けにpost-trainedされています。ベースモデルはLiquidAI/LFM3-1.7B-Baseです。LFM3 familyにはbase、text、vision、audio、omni、decisionモデルが含まれます。

仕様

項目	内容
層構成	24 layers(gated short convolution 13、sliding-window attention 5、global attention 6)
語彙数	128,000 tokens
4ビット時メモリ	約1 GB
ライセンス	LFM Open License v1.0

対応言語は英語、アラビア語、中国語、フランス語、ドイツ語、イタリア語、日本語、韓国語、ポルトガル語、スペイン語、ベトナム語、タイ語、インドネシア語、ヒンディー語、ロシア語、ポーランド語の16言語です。

用途と試し方

Liquid AIはローカルエージェント、ツール呼び出し、構造化出力、ドメイン特化ファインチューニングを推奨用途に挙げています。知識量の多いタスクではretrievalまたはsearchの併用を推奨し、エージェント型コーディングや複雑な多段階推論はモデルサイズの小ささから非推奨としています。

推論時は、利用する推論フレームワークとハードウェアに合うチェックポイントvariantを選びます(例: BF16はvLLM向け)。単一GPUでの短時間ファインチューニングにより、ドメインやフォーマット、ツールへ適応させられるとしています。