IBM、Granite 4.0 H-Tiny BaseのGGUF版をHugging Faceで公開

スペック

ライセンスapache-2.0
重みの公開GGUF形式で公開
配布形式・量子化複数の量子化

メモリの目安はパラメータ数×0.6バイトの概算で、実際はコンテキスト長と実装で変わります

IBM Graniteは、ベースモデルibm-granite/granite-4.0-h-tiny-baseをGGUF形式に変換し、複数の量子化を収めたリポジトリibm-granite/granite-4.0-h-tiny-base-GGUFをHugging Faceで公開しています。ライセンスはapache-2.0です。

GGUFはGGMLプロジェクトで仕様が公開されている推論用モデルのバイナリ形式で、テンソルと読み込みに必要なメタデータを格納し、GGMLを使う推論ソフトウェアで利用されます。

何が公開されたか

リポジトリの説明によると、このリポジトリはIBM GraniteのベースモデルからGGUF形式へ、さまざまな量子化で変換したモデルを収めています。変換元はgranite-4.0-h-tiny-baseで、指示チューニング版ではなくBaseモデルのGGUF版です。

入手と参照先

  • リポジトリ: ibm-granite/granite-4.0-h-tiny-base-GGUF(Hugging Face)
  • 形式: GGUF、複数の量子化
  • ライセンス: apache-2.0
  • モデルの詳細: リポジトリはベースモデルibm-granite/granite-4.0-h-tiny-baseのモデルカードを参照するよう案内しています

この記事の固有名詞

コメント (0)

まだコメントはありません。

コメントを書く

2000文字以内