NVIDIA、DGX Spark 8台連結でフロンティア級モデル実行へ

NVIDIAは、DGX Sparkノード8台を連結してフロンティア級AIモデルを実行する取り組みを、GTC BerlinにあわせてNVIDIA Technical Blogで紹介しました。対象は数百GBのメモリを要求するフロンティア級アーキテクチャです。

DGX SparkはNVIDIAが提供する、机上でAIモデルや自律エージェントを実行するための小型コンピューターで、Grace Blackwellのチップと共有メモリを搭載しています。

何が新しいか

NVIDIAによると、DGX Sparkは「AI開発をデスク上に持ち込む」ために設計された製品で、今回さらに多くのSparkノードを互いにリンクできるようになります。記事のタイトルは「Running Frontier-Class AI Models Across 8 NVIDIA DGX Spark Nodes」です。

項目	内容
連結するノード数	DGX Spark 8台
対象モデル	数百GBのメモリを要求するフロンティア級アーキテクチャ
必要メモリの規模	数百GB
発表の場	GTC Berlin

使い方の前提

複数のDGX Sparkノードをリンクして使用する構成です。

背景

NVIDIAは、AI開発者が単一モデルを動かすだけでなく、複数モデルの並列実行、推論呼び出しの連結(チェーン)、数百GBのメモリを要するフロンティア級アーキテクチャの実験を行うようになっている、と説明しています。