MiniMax、428B・活性23Bのマルチモーダル「MiniMax-M3」を公開

MiniMaxAIは、総パラメータ約428B・活性パラメータ約23B、コンテキスト長1Mのネイティブマルチモーダルモデル「MiniMax-M3」をHugging Face(MiniMaxAI/MiniMax-M3)で公開しました。独自のMiniMax Sparse Attention(MSA)により、1Mコンテキスト時のデコード速度はM2比で15倍になるとしています。

MiniMaxは、文章・音声・画像・動画・音楽を扱うマルチモーダルモデルや企業・開発者向けAPIを展開するAI企業です。

何が新しいか

MiniMax-M3は学習の最初のステップからテキスト・画像・動画の混合モダリティ学習を行い、モダリティ間のより深い意味的融合を狙っています。パイプラインタグはimage-text-to-textです。長文脈向けには、100万トークン規模を想定したスパースアテンション演算子MSAを採用しました。MiniMaxAIは、MSAがGQAと比べてアテンションの計算量とメモリ使用量を大きく削減しつつ、モデル品質を維持すると説明しています。また、コーディングと協働(cowork)を含む長期エージェント型ベンチマークでフロンティア水準の性能を達成したとしています。技術レポートはarXiv:2606.13392です。

M2比の長文脈効率

項目(1Mコンテキスト時、M2比)	値
プリフィル速度	9倍
デコード速度	15倍
トークン当たり計算量	1/20

推論モード

MiniMax-M3はthinkingパラメータで3種類の推論モードを切り替えます。

• enabled:推論を常に有効化
• adaptive:追加推論が有益かをモデルが自動判断
• disabled:推論を無効化し、レイテンシー最小化とスループット最大化を図る

推奨推論パラメータはtemperature=1.0、top_p=0.95です。

試し方・ローカル配置

ホスト版はMiniMax Code(agent.minimax.io)とMiniMax API(platform.minimax.io)で利用できます。ローカルでは次のコマンドで重みを取得します。

hf download MiniMaxAI/MiniMax-M3 --local-dir MiniMax-M3

MiniMaxAIが推奨する推論フレームワークはSGLang、vLLM、Transformers、KTransformers、unsloth、ATOMです。それぞれにSGLang cookbook、vLLM recipes、Transformersのドキュメント(minimax_m3_vl)、KTransformersのチュートリアル、unslothのチュートリアル、ATOMのMXFP4/MXFP8利用ガイドが用意されています。ライセンスはotherです。