Liquid AI、d1-Omni-2BのONNX版を公開 q4構成は2.45GB

Liquid AIは、音声・テキスト変換用モデルLiquidAI/d1-Omni-2BのONNX版LiquidAI/d1-Omni-2B-ONNXをHugging Faceで公開しました。q4構成のサイズは2.45 GBで、CPUでの推論を対象としています。

Liquid AIはMITの計算機科学・人工知能研究所から生まれた基盤モデル開発企業で、パソコンや携帯端末などへの実装を対象にしたモデルを提供しています。

何が新しいか

d1-Omni-2B-ONNXは、ONNX Runtimeによるクロスプラットフォーム推論向けに元モデルをONNX形式で提供するものです。リポジトリのメタデータでは、ライセンスがother、パイプライン種別がaudio-text-to-text、ベースモデルがLiquidAI/d1-Omni-2Bとなっています。

ファイル構成

各精度の構成は、デコーダー、ビジョンエンコーダー、オーディオエンコーダーの組み合わせで提供されます。q4構成の内容は次のとおりです。

項目	q4構成
デコーダー	decoder_q4
ビジョンエンコーダー	vision_encoder_q8
オーディオエンコーダー	audio_encoder
サイズ	2.45 GB
デバイス	CPU

q8構成では、デコーダーにdecoder_q8、ビジョンエンコーダーにvision_encoder_fp16を組み合わせています。

試し方

• 推論にはONNX Runtimeを使います。
• アーキテクチャーと使用方法の詳細は、元モデルLiquidAI/d1-Omni-2Bのモデルカードを参照する形になっています。