グーグル、AI セミコンダクター戦略を大転換へ「学習・推論」で二分化

グーグルは、人工知能技術の新たな地平であるエージェント時代に対応するため、ハードウェア戦略を根本的に再編した。以前は単一の汎用チップで学習プロセスと推論業務の両方を処理する方式を捨て、大規模学習専用の TPU 8t と、高同時性推論専用の TPU 8i という 2 つの専用半導体を独自に開発して発表した。同社は 23 日、ラスベガスで開催されたクラウド・ネクスト 2026 コンファレンスでこの 2 つの革新的なチップを正式に発表した。グーグル側は、現在の AI 市場がモデルを作成する開発段階から、実際にサービスに投入する運用段階へと急速に分化しているとの診断を述べ、この需要構造の変化に合わせて設計された新しいチップラインナップであることを強調した。

前世代のアイアンウッド TPU が推論時代に向けた単一のフラッグシッププラットフォームであったのであれば、今回の世代は構造自体を二分化した点が最大の特徴である。AI エージェント技術の急速な普及により、より巨大なモデルを訓練するためのインフラと、それをクラウド環境で迅速かつ効率的に実行するための推論インフラに対する需要が同時に爆発的に増加したためだ。グーグルはこれを反映し、学習用と推論用を明確に区別する戦略を取ることで、各段階の特性に最適化した性能と効率性を確保しようとする意志を示した。

TPU 8t は大規模事前学習とエンベッディング中心のワークロードに焦点を当てたチップで、3D トラスネットワークトポロジーを適用し、大規模クラスターの拡張性を最大化した。単一ポッド基準で接続可能なチップ数は 9600 個となり、既存モデルの 9216 個を凌ぎ、核心は SparseCore 技術と 4 ビット浮動小数点演算のサポートにある。SparseCore は大規模言語モデルの検索プロセスで頻繁に発生する不規則なメモリアクセスを処理するための専用アクセラレーターの役割を果たし、低ビット演算と組み合わせることでメモリバンド幅の負担を軽減した。これにより、より少ないメモリの使用量でも精度を維持しつつ処理能力を 2 倍に高め、パラメータあたりのビット数を減らす量子化技術の流れとも合致しており、電力消費量と空間負担を同時に削減できる。

TPU 8i は学習が完了したモデルを実際のサービスに投入する推論段階に合わせて設計されており、大規模モデルの事後処理や多数のユーザーが同時に要求する高同時性推論において優れている。グーグルによると、このチップは既存モデルよりも 3 倍多くの静的 RAM を搭載しており、LLM 推論に必要な大きなキー値キャッシュを収容できるため、テキスト生成速度を劇的に向上させた。また、Collectives Acceleration Engine という推論システムを適用し、自己回帰デコーディングや連鎖推論プロセスで必要な同期および縮小演算を加速化した。ボードフライ ICI という専用ネットワークトポロジーを導入し、最大 1152 個のチップを相互接続可能にするとともに、データパケットの移動距離とホップ数を削減し、全体通信ホップ数を最大 50% 削減した。

グーグルの今回の勝負手は、NVIDIA 中心の市場を揺るがすことができるかに注目が集まる。TPU 8t と 8i はいずれも前世代 대비 ワットあたりの性能が 2 倍向上しており、電力効率性を確保している。これは大規模 AI データセンターの収益性を左右する核心的な変数だ。単なる半導体新製品の発表を超え、グーグルが AI インフラ戦略を学習と推論で本格的に分離したというシグナルであり、AI サービス競争がモデル性能だけでなく、運用コストとレスポンスタイム、同時処理量へとシフトする流れの中で、クラウド事業の重みを高める戦略だ。市場では実際の顧客導入スピードと NVIDIA エコシステムとのソフトウェア互換性が成否を分ける変数と見られるが、AI エージェントの普及に伴い学習用と推論用の需要が同時に大きくなっているため、グーグルの二分化戦略は今後の AI インフラ競争の重要な分岐点になる可能性が高い。