Liquid AI、LFM2.5-VL-450MのMLX 4bit版を0.35GBで公開

Liquid AIは、視覚言語モデルLiquidAI/LFM2.5-VL-450MをApple Silicon推論向けに4-bit量子化したMLXエクスポートLiquidAI/LFM2.5-VL-450M-MLX-4bitをHugging Faceで公開しました。モデルサイズは0.35GBです。

Liquid AIはMITの計算機科学・人工知能研究所から生まれた基盤モデル開発企業で、パソコンや携帯端末への実装を対象にしたモデルを提供しています。MLXはAppleの機械学習研究チームが開発する、Appleシリコン向けの配列計算フレームワークです。

構成と仕様

LFM2.5-VL-450Mは、LFM2.5-350MバックボーンとSigLIP2 NaFlex視覚エンコーダー(86M)を組み合わせた構成です。原文によると、OCR、文書理解、多言語視覚理解、バウンディングボックス予測、ファンクションコーリングに対応します。

項目	値
量子化	4-bit(Group Size 64)
モデルサイズ	0.35 GB
視覚エンコーダー	SigLIP2 NaFlex(86M)
ネイティブ解像度	最大512x512

コンテキスト長は32K、ライセンスはLFM 1.0 Licenseです。

試し方

mlx-vlmをバージョン指定でインストールします。

uv pip install 'mlx-vlm==0.3.9'

mlx_vlmのload("LiquidAI/LFM2.5-VL-450M-MLX-4bit")でモデルとプロセッサを読み込み、load_image("photo.jpg")で画像を読み込みます。LFM2.5-VLではチャットテンプレートの適用が必須で、画像とテキストを含むメッセージに対しprocessor.apply_chat_template(messages, add_generation_prompt=True)でプロンプトを作ります。その後generateにモデル、プロセッサ、プロンプト、画像リストを渡して推論します。

推奨サンプリングパラメータは次のとおりです(サンプルコードではtemp=0.1として渡しています)。

パラメータ	値
temperature	0.1
min_p	0.15
repetition_penalty	1.05