Tencent、Hy-Memory-30B-A3BのGGUF版を3種類公開

Tencent Hunyuanは、外部メモリーフレームワーク向けの長期記憶書き込みモデル「Hy-Memory-30B-A3B」のGGUF量子化版を、Hugging Faceリポジトリtencent/Hy-Memory-30B-A3B-GGUFで公開しました。3種類の量子化のうち、Q6_K imatrix(24.71 GB)がLoCoMo Judgeで58.78%と最も高いスコアを示しています。

何が新しいか

Hy-Memory-30B-A3Bは総パラメータ30B、活性パラメータ約3BのMoEモデルで、ライセンスはapache-2.0です。Mem0、MemOS、Hy-Memory内部の一般用途LLMを置き換え、何を保持するか、どの精度で表現するか、新しい証拠で永続メモリーバンクをどう更新するかを判断します。今回のリポジトリは、このモデルをllama.cppでローカル推論するためのGGUFファイルを提供します。

量子化ごとのサイズと評価

量子化	ファイル	サイズ	LoCoMo Judge
Q6_K imatrix	hy3a3b-memrl1009-step250-Q6_K-imat.gguf	24.71 GB	58.78% (154/262)
Q8_0	Hy-Memory-Step250-Q8_0.gguf	31.99 GB	57.63% (151/262)
Q4_K_M imatrix	hy3a3b-memrl1009-step250-Q4_K_M-imat.gguf	18.24 GB	56.49% (148/262)

この評価ではQ6_K imatrixがQ8_0を上回りました。Tencentは、Q6_K imatrixを品質最高、Q4_K_M imatrixをダウンロード量とメモリーフットプリントが最小の選択肢と位置づけています。

評価条件は次のとおりです。

項目	設定
ハーネス	Mem0 2.0.19
ベンチマーク	固定20% LoCoMoテスト分割
規模	2ユーザー、262問、59メモリチャンク
取得	top_k=10、1チャンク10ターン
メモリ温度	0.7
推論モード	no-think
埋め込み	qwen3-embedding-8b-for-online(4096次元)
回答・判定	gpt-5.6-sol
推論	公式llama.cpp、commit 5aeac37a35b44fde4bdffaec9159f2fcb253b622、KV cache F16

試し方

GGUFファイルをダウンロードし、llama.cppで推論します。3ファイルはいずれもllama.cppの--check-tensors、実際のno-think生成、上記の量子化評価に合格しています。

llama.cppはggml-orgが公開するC/C++製の推論ソフトウェアで、CPUや各社GPUで動作し、CLIとOpenAI互換APIサーバーを備えます。

訓練と元モデルの評価

モデルはMemory On-Policy Distillation(OPD)とAttributed Memory Reinforcement Learningの2段階で訓練され、訓練に含まれないEverMemOSにも転移すると説明されています。元モデルカードの4ハーネス横断評価(各6指標の等重み平均)では、Hy-Memory-30B-A3Bが平均55.49で、Claude Opus 5(54.62)、DeepSeek V4.1 Flash(53.64)、Qwen3.6-35B-A3B(50.37)、Qwen3-30B-A3B(44.37)を上回っています。この数値は元モデルのもので、GGUF版の測定値は前述のLoCoMo Judgeです。