IBM Graniteは、ベースモデルibm-granite/granite-4.0-h-tiny-baseをGGUF形式に変換し、複数の量子化を収めたリポジトリibm-granite/granite-4.0-h-tiny-base-GGUFをHugging Faceで公開しています。ライセンスはapache-2.0です。
GGUFはGGMLプロジェクトで仕様が公開されている推論用モデルのバイナリ形式で、テンソルと読み込みに必要なメタデータを格納し、GGMLを使う推論ソフトウェアで利用されます。
何が公開されたか
リポジトリの説明によると、このリポジトリはIBM GraniteのベースモデルからGGUF形式へ、さまざまな量子化で変換したモデルを収めています。変換元はgranite-4.0-h-tiny-baseで、指示チューニング版ではなくBaseモデルのGGUF版です。
入手と参照先
- リポジトリ:
ibm-granite/granite-4.0-h-tiny-base-GGUF(Hugging Face) - 形式: GGUF、複数の量子化
- ライセンス: apache-2.0
- モデルの詳細: リポジトリはベースモデル
ibm-granite/granite-4.0-h-tiny-baseのモデルカードを参照するよう案内しています

まだコメントはありません。