Google Cloud、第8世代TPUにTPU 8txと8i Maxを追加し4システム体制に

Google Cloudは2026年11月9日、第8世代TPUの新システムとしてTPU 8txとTPU 8i Maxを発表しました。TPU 8tとTPU 8iに続くもので、同世代のTPUシステムは4種類になり、1年に4つのTPUシステムを投入するのは初めてです。

何が新しいか

TPU 8txは機密性の高い推論向けのシステムで、小規模トレーニングにも対応します。TPU 8tと同じシリコンに第5世代AMD EPYC CPUホストとBoardflyネットワークを組み合わせ、ハードウェアレベルの機密コンピューティングで、データとモデル重みを処理中も保護・分離します。対象は規制対象の企業や政府で、機密データとともに実行する推論、プライベートなファインチューニング、エージェント実行を想定しています。機密データを別クラスタへ移さずに、ファインチューニング、蒸留、強化学習を行えます。

TPU 8i Maxは2つのTPU 8iチップを単一パッケージに統合したシステムです。大規模なコンテキストウィンドウを扱うワークロードと、ラックあたりの最大コンピュート密度を狙い、既存のラック占有面積に2倍のシリコンを収めます。

AMDはサーバー向けのEPYCなどを提供する半導体企業です。

4システムの役割と数値

システム	用途	主な数値
TPU 8t	大規模トレーニング	前世代比トレーニング性能最大2.7倍
TPU 8i	低レイテンシー推論	前世代比推論価格性能80%向上
TPU 8tx	機密コンピューティング	TPU 8t比レイテンシー最大2倍低い
TPU 8i Max	大規模コンテキスト、最大コンピュート密度	TPU 8i比でコンピュート、SRAM、HBM帯域幅がそれぞれ2倍

ソフトウェアと試し方

GoogleはTPUを汎用ハードウェア並みに使いやすくする方針を示し、次のソフトウェアを挙げています。

• TorchTPU: オープンソース化済み。PyTorchコードとHugging Faceモデルをコードを書き換えずにTPU上でネイティブに実行できます。vLLMとSGLang向けのTPUバックエンドも用意しています。
• TPUエージェントスイート: オープンソースでプレビュー提供。Claude Code、Cursor、Google Antigravityに接続し、TPUのオンボーディング、ボトルネック診断、カスタムカーネルの自動チューニングを自然言語で行えます。
• XLA Serving Engine: Pythonでトレーニングしたモデルを、低レイテンシーのC++ランタイムでTPU、GPU、CPUにわたって提供します。
• Agent Compute Engine: アイドル状態のエージェントセッションを自動的に一時停止・再開します。
• TPU Sync: TPUクラスタのモデル状態レイヤーとして、HBM、ホストDRAM、共有ストレージ、データセンターネットワークを単一のメモリ階層に統合します。KVキャッシュのオフチップ階層化やRL重みの同期により、KV転送レイテンシーとTTFTを90%以上削減するとしています。

Googleは、InferenceXとAgentXのベンチマークで、vLLM-TorchTPUスタックが最高水準の価格性能を記録したとも述べています。

背景

発表記事はGoogleのAI・インフラ担当SVP兼チーフテクノロジストのAmin Vahdat氏の名義です。GoogleはTPUをGoogle DeepMindと共同設計してきましたが、外部組織からの要望も増えているとしています。発表では、エージェント規模の計算で大規模コンテキストを扱えるアクセラレーターと、規制業種向けの暗号化機能への需要に今回の2システムが応えると位置づけています。新チップではなくチップ周辺の構成を変える「システム」として設計することで、数年ではなく数カ月で専用構成を提供できるとしています。