IBM Graniteは、ベースモデルibm-granite/granite-4.0-h-micro-baseをGGUF形式に変換し、各種量子化で収録したリポジトリibm-granite/granite-4.0-h-micro-base-GGUFをHugging Faceで公開しました。ライセンスはapache-2.0です。
GGUFは、GGMLプロジェクトで仕様が公開されている推論用モデルのバイナリ形式で、テンソルと読み込み用メタデータを格納し、GGMLを使う推論ソフトウェアで利用されます。
何が公開されたか
リポジトリ名は「Granite 4.0 H-Micro Base (GGUF)」です。原文は、このリポジトリにIBM GraniteのベースモデルからGGUF形式へ変換した、さまざまな量子化のモデルが含まれると説明しています。変換元は指示調整版ではなくベースモデルのgranite-4.0-h-micro-baseです。
入手とモデル情報
- 配布先: Hugging Face
ibm-granite/granite-4.0-h-micro-base-GGUF - ライセンス: apache-2.0
- ベースモデル:
ibm-granite/granite-4.0-h-micro-base
モデルの詳細について、原文はベースモデルのモデルカード(

まだコメントはありません。