Opinionニュース

GoogleがTorchTPUを公開、PyTorch開発者へAI半導体の選択肢

2026/10/21更新 2026/10/218分で読める

Google Cloudは10月20日、「TorchTPU」をオープンソースで公開した。GoogleのAI半導体TPUでPyTorchを動かすソフトウェアである。MetaのPyTorchチームと共同開発し、既存コードの変更を抑えてTPUを使えるようにする。

AI開発では、モデルだけでなく、どの半導体で動かせるかが費用と納期を左右する。PyTorchはNVIDIAのGPUで広く使われてきたため、別の半導体へ移す作業が壁になっていた。

TorchTPUが変えようとするのは、半導体の性能比較より、既存の開発資産を移す費用である。 Googleは開発者の道具を変えず、TPUを候補へ入れてもらう道を選んだ。

TorchTPUはPyTorchをTPUへつなぐ

TorchTPUは、PyTorchからGoogle TPUをCPUやGPUと同じように指定するソフトウェア層である。開発者は使い慣れたAPIを保てる。動作確認ではeager mode、本番運用ではtorch.compileを使って処理を最適化する[1]。

GoogleはvLLM、SGLang、llm-dとの統合を発表した。TorchTitan、Ray、Hugging Faceにも対応する。モデル学習だけでなく、完成したモデルへ要求を送り回答を返す推論にも使える。

PyTorch側も、GoogleとMetaの共同プロジェクトであり、TPUをネイティブな実行先に加えると説明している[2]。ソースコードを公開することで、対応演算や不具合を外部から検証しやすくする。

移行コストを下げてTPU利用を増やす

開発チームが半導体を変えるときは、機器代だけでなくソフトウェアの書き換え、動作確認、監視、障害対応が必要になる。特定のライブラリーが動かなければ、価格が安くても移行できない。

TorchTPUは次の変更を減らそうとしている。

PyTorchで書いたモデル定義の作り直し
推論サーバーのAPIと運用手順の変更
分散学習と複数チップ利用の個別実装
Hugging Face上の公開モデルを移す作業

TechCrunchは、GoogleがPyTorch開発者をTPUへ呼び込む動きと位置づけた。NVIDIAのソフトウェア優位へ対抗する狙いも指摘している[3]。ただし、互換性が増えただけで市場シェアが直ちに動くわけではない。

青い背景に置かれた金色の端子を持つコンピュータープロセッサ — AI計算に使う半導体をイメージした写真。Google TPUの実写ではない。出典：Pexels / Jimmy Chan（Pexels License）

推論ソフトの共通化が競争を変える

AI推論では、利用者の要求をまとめ、キャッシュを再利用し、複数の半導体へ処理を割り当てる。これまではGPUとTPUで別の実装を保つ負担が大きかった。

GoogleはvLLM向けのTorchTPUバックエンドを公開した。公式リポジトリによると、同じvLLMのコマンドやOpenAI互換APIを保ち、TPU向けの演算と分散処理を使う[4]。対応範囲はハードウェア世代によって異なり、Ironwoodを推奨、v6eやv5系は実験的とされる。

同日公開されたllm-d 1.0の記事では、推論要求の優先制御と無停止更新を扱った。TorchTPUはその下で、PyTorchの処理をTPUへ渡す役割を担う。両者は競合というより層が違う。

開発者が同じモデルと推論サーバーを複数の半導体で動かせれば、価格と供給状況を比べやすくなる。 半導体企業にとっては、チップの速度だけでなく、既存ソフトへの参加度が採用条件になる。

公表性能は条件を外して読まない

Googleは、1000基のTPU v6eを使った事例を紹介する。1日当たりの生成量は14.7億トークンから59.7億トークンへ増えたという[1]。別の学習試験ではIronwoodを最大8192基使った。Qwen 3 8BのModel FLOPs Utilizationは最大52％だったとしている。

これらは異なる用途と条件の数字である。前者は推論経路の最適化、後者は学習時の計算利用率を示す。自社モデルの費用削減率や、NVIDIA GPUとの一般的な速度差ではない。

検証では次をそろえる必要がある。