IBM、Granite 4.0 H-Micro BaseのGGUF版をHugging Faceで公開

スペック

ライセンスapache-2.0
配布形式・量子化GGUF形式、各種量子化

メモリの目安はパラメータ数×0.6バイトの概算で、実際はコンテキスト長と実装で変わります

IBM Graniteは、ベースモデルibm-granite/granite-4.0-h-micro-baseをGGUF形式に変換し、各種量子化で収録したリポジトリibm-granite/granite-4.0-h-micro-base-GGUFをHugging Faceで公開しました。ライセンスはapache-2.0です。

GGUFは、GGMLプロジェクトで仕様が公開されている推論用モデルのバイナリ形式で、テンソルと読み込み用メタデータを格納し、GGMLを使う推論ソフトウェアで利用されます。

何が公開されたか

リポジトリ名は「Granite 4.0 H-Micro Base (GGUF)」です。原文は、このリポジトリにIBM GraniteのベースモデルからGGUF形式へ変換した、さまざまな量子化のモデルが含まれると説明しています。変換元は指示調整版ではなくベースモデルのgranite-4.0-h-micro-baseです。

入手とモデル情報

  • 配布先: Hugging Face ibm-granite/granite-4.0-h-micro-base-GGUF
  • ライセンス: apache-2.0
  • ベースモデル: ibm-granite/granite-4.0-h-micro-base

モデルの詳細について、原文はベースモデルのモデルカード(

この記事の固有名詞

コメント (0)

まだコメントはありません。

コメントを書く

2000文字以内