NVIDIA、64BのCosmos3-Super-Text2ImageをHugging Faceで公開

スペック

総パラメータ64B
ライセンスOpenMDW1.1
4bit量子化の目安メモリ約38.4GB(48GB以上のメモリで実行可能な目安)

メモリの目安はパラメータ数×0.6バイトの概算で、実際はコンテキスト長と実装で変わります

NVIDIAは2026年5月31日、学習可能パラメータ64Bのtext-to-imageモデルnvidia/Cosmos3-Super-Text2ImageをHugging FaceとGitHubで公開しました。ライセンスはOpenMDW1.1で、商用・非商用の両方で利用できます。

何が新しいか

Cosmos3-Super-Text2Imageは、Cosmos3-Superベースモデルをポストトレーニングしたtext-to-image variantです。テキスト入力から、説明と整合する高忠実度の画像を生成します。

Cosmos3は、テキスト・画像・動画・アクション軌跡の組み合わせから画像、動画、音声、アクションコマンドを生成するオムニモーダルなworld modelのコレクションです。NVIDIAはこれをPhysical AI向けのworld foundation model platformと位置づけ、ロボティクス、自動運転、スマートスペース、産業・工場規模の用途を対象にしています。

アーキテクチャと入出力仕様

Cosmos3はMixture-of-Transformers(MoT)アーキテクチャを採用しています。離散トークン生成用の自己回帰transformerと、連続的なマルチモーダル生成用のdiffusion transformerの2つのタワーで構成します。推論時、テキストはnext-token自己回帰デコードで生成し、画像・動画・音声・アクションは反復的なdenoisingで合成します。

項目 仕様
テキスト入力 最大4096 tokens
画像・動画解像度 256p / 480p / 720p
アスペクト比 16:9、4:3、1:1、3:4、9:16
動画入力 最大5フレーム
音声入力 最大0.5秒
音声付き動画入力(MP4にmux) 2 channels (stereo)、48 kHz
アクション入力 16–400動画フレーム
動画生成長 5–400フレーム(デフォルト189)
生成音声 AAC、MP4にmux、2 channels (stereo)、48 kHz
出力形式 画像はJPG、動画はMP4、アクションは.json

入力形式は、テキストがString、画像がjpg/png/jpeg/webp、動画がmp4、アクションがjson(1D list)です。画像・動画はRGB(8 bits per channel、sRGB)で渡す必要があり、grayscaleは扱えません。アクション入力は(T, D)形状の配列で、Franka Panda(10D/20D)、Agibot(29D)、UR(10D)、Google robot(10D)、WidowX 250(10D)、UMI(9D)、自動運転(9D)などの対応embodimentに限られます。

入手方法

モデルはHugging FaceのCosmos3コレクション(nvidia/cosmos3)から、コードはGitHubのnvidia/cosmosから取得できます。ベースはCosmos Framework(nvidia/cosmos-framework)です。提供地域はGlobalです。

この記事の固有名詞

コメント (0)

まだコメントはありません。

コメントを書く

2000文字以内