zai-org、GLM-5.3-Flashを公開 総320B・活性18Bのネイティブマルチモーダル

スペック

総パラメータ320B
活性パラメータ18B
ライセンスmit
4bit量子化の目安メモリ約192GB(256GB以上のメモリで実行可能な目安)

メモリの目安はパラメータ数×0.6バイトの概算で、実際はコンテキスト長と実装で変わります

zai-orgは、総パラメータ320B・活性パラメータ18BのGLM-5.3-FlashをHugging Faceのzai-org/GLM-5.3-FlashでMITライセンスにより公開しました。GLM-5シリーズで初のネイティブマルチモーダルモデルで、zai-orgはGLM-5.2をベンチマークと実運用ワークロードで10分の1の価格で上回り、コーディングとエージェント系ベンチマークでClaude Opus 4.8に近づくとしています。

GLMはZ.aiが開発するAIモデルのファミリーで、APIのほか重みを公開したモデルもあります。

何が新しいか

GLM-5.3-Flashは新規に学習したベースモデルから出発し、アーキテクチャと学習レシピを性能と効率を軸に再設計しています。GLMシリーズとして初めて疎なアテンションと線形アテンションを組み合わせたハイブリッド構成を採用し、長文脈の精度を保ちつつ長文脈サービングのコストを大きく下げたとしています。さらにManifold-Constrained Hyper-Connections(mHC)でスケーリング効率を高め、30T tokensのマルチモーダル事前学習コーパスを用いています。pipeline_tagはimage-text-to-textです。

ローカル展開とAPI

ローカル展開には次のフレームワークを利用でき、それぞれcookbook、recipes、docs、tutorial、guideが用意されています。

  • SGLang(cookbook)
  • vLLM(recipes)
  • TokenSpeed(recipes)
  • Transformers(glm5_nextのdocs)
  • KTransformers(tutorial)
  • Unsloth(guide)

APIはZ.ai API Platformで提供しています。

推論設定の注意点

  • reasoning_effortで思考予算をlow・high・maxの3段階で制御します。未指定やその他の値ではmaxになります。lowやhighは明示的に渡す必要があり、ベンチマーク再現時はデフォルトのmaxを使います。
  • チャットテンプレートのclear_thinkingは未指定時falseです。チャット用途ではclear_thinking=trueを明示します。

ベンチマークの評価条件

ベンチマーク 主な条件
HLE w/ tools (full set) temperature=1.0、top_p=0.95、最大生成長163,840 tokens、最大コンテキスト300,000 tokens、判定モデルGPT-5.6-luna (medium)
NL2Repo temperature=1.0、top_p=1.0、max_new_tokens=64k、1M context、ルールベースとLLMによる不正操作判定
DeepSWE mini-swe-agent、temperature=0.95、top_p=1.0、timeout=6h、400K context
Terminal-Bench 2.1 Claude Code 2.1.207、temperature=1.0、top_p=1、max_new_tokens=65536、6h timeout
Toolathlon Verified 公式評価サービス、3回独立実行のpass@1平均
AutomationBench v1.0.6(PR #13のnull型処理修正を反映)
GDPval-AA v2 Artificial Analysisが評価
BabyVision temperature=1.0、top_p=0.95、最大コンテキスト164K tokens、画像の短辺を1.5K pixels以上にリサイズ

この記事の固有名詞

コメント (0)

まだコメントはありません。

コメントを書く

2000文字以内