AMD、Instinct GPUの第三の性能指標「TAF」を解説

AMDはROCm Blogsで、AMD Instinct GPUの計算性能を評価する第三の指標「Typical Attained FLOPs(TAF)」を紹介しました。TAFはテスト前に選んだ固定の代表GEMMセットでのFLOP加重の持続スループットを測るもので、既存のPeak FLOPsとMax-Achievable FLOPs(MAF)を補完する指標です。

AMD Instinctは、AMDが開発するデータセンターのAIと高性能計算向けアクセラレーターの製品群で、ROCmのライブラリやコンパイラー、実行基盤と組み合わせて使います。

何が新しいか

今回のブログは、Peak FLOPsとMAFを扱った過去2本に続くシリーズの3本目です。AMDは「単一のFLOPs値では性能の全体像をほとんど語れない」とし、TAFを加えた3指標でGPUの計算性能をより包括的に捉えるとしています。TAFの目的はPeak FLOPsやMAFの置き換えではなく、各指標が異なる問いに答えるという位置づけです。

3つの指標の違い

指標	示すもの	測定方法
Peak FLOPs	ハードウェアの理論上の演算能力	理論値
MAF	GPUが達成できる持続スループットの最高値	複数のGEMMサイズを試験して最高値を取る
TAF	代表的なワークロードでのFLOP加重の持続スループット	テスト前に選定した固定の代表GEMMセットで測定

MAFが多数のGEMMサイズから最良の結果を拾うのに対し、TAFは測定対象のGEMMセットを事前に固定し、FLOP加重で平均的な到達性能を示します。