RTX SparkノートPCのLinux、電源接続でGPT-OSS-120Bが13.9tok/sに低下

MindStudioのブログ記事(編集: Luis Chavez-Mattos)によると、MSI Prestige RTX SparkノートPCでネイティブLinuxを壁電源接続で使うとGPUクロックが約780MHzに固定され、GPT-OSS-120Bの推論速度はWindowsの65.4 tokens per secondに対し13.9 tokens per secondまで落ちます。原因はWindows専用の「Nvidia Platform Controllers and Framework」が扱う暗号化された電力テーブルを、Linuxが現時点で復号できないことです。

ベンチマーク結果

条件 結果
GPT-OSS-120B Windows 65.4 tok/s
GPT-OSS-120B WSL 65.1 tok/s
GPT-OSS-120B DGX Spark 61 tok/s
GPT-OSS-120B ネイティブLinux(電源接続) 13.9 tok/s
vLLM・8同時クライアント WSL 127 tok/s / Linux 39.5 tok/s
長時間ベンチマーク所要時間 Windows 約8分(約2.2GHz) / Linux 37分(約790MHz)
LM Studio・Linux・バッテリー駆動 約61〜67 tok/s(負荷時約1,800MHz)
LM Studio・Linux・電源接続 約15 tok/s(約780MHz)

Linux接続時の温度は40〜47°Cで、サーマルスロットリングではありません。電源を外すと速くなり、接続すると遅くなるという逆転した挙動です。

原因の切り分け

Nvidia Platform Controllers and Frameworkは、CPUとGPUの共有電力バジェットを管理するファームウェア・ドライバーコンポーネントです。Windowsでこれを無効化すると速度は約83から約31 tok/sに落ち、クロックはLinuxと同じ786MHzになりました。再有効化で即座に回復したため、カーネルやディストリビューション、GPUドライバー本体ではなくこのコントローラーが原因と判断しています。テスト中に試したソフトウェア的な回避策はいずれも成功せず、1つはカーネルパニックを起こしました。記事は、根本的な修正にはNvidiaがこの電力管理ロジックをLinuxドライバーへ移植する必要があるとしています。

Linuxの導入手順と要件

  • Omarchy: このチップ向けNvidiaオープンカーネルドライバーを同梱しており、最終的にLinux起動に使用できました(初回はMSI機で画面がちらつき失敗)。
  • Debian: インストーラーがWi-Fiに接続できずUSB Ethernetアダプターが必要で、キーボード、タッチパッド、GPUも手動対応が必要でした。
  • メモリ: 既定ではGPUに96GBが予約され、Linuxは128GB中28GBしか認識しません。Windows側でGPU予約を4GBに下げると、Linuxで120GBを認識します。
  • 設定後は4K/120Hzのデスクトップ、音声、キーボード、タッチパッド、CUDAが動作しました。

WSLという選択肢

WSLはWindowsのドライバースタック上で動くため、電源接続時もバッテリー駆動時もGPUブーストを維持し、vLLMやSGLangを実行できます。ただし既定のGPUメモリ予約は14GBで、大規模モデルには手動での増量が必要です。

RTX SparkはDGX Sparkと同じGPU設計を採用し、CPUとGPUで最大128GBの統合メモリを共有します。DGX SparkはNVIDIAが提供する机上向けの小型AIコンピューターで、Grace Blackwellのチップと共有メモリを搭載しています。

この記事の固有名詞

コメント (0)

まだコメントはありません。

コメントを書く

2000文字以内