首頁/研究資料庫/市場研究

文章 / PANews

Google 開源 TorchTPU,挑戰 NVIDIA AI 生態主導地位

PANews 10月21日消息,據 Google Cloud 官方博客,Google 在 PyTorch Conference 2026 上宣佈開源 TorchTPU。該項目由 Google 與 Meta PyTorch 團隊聯合開發,代碼已發佈在 GitHub。TPU 由此成為與 GPU、CPU 並列的 PyTorch 原生硬件選項,現有代碼只需少量修改即可遷移。vLLM、SGLang、TorchTitan、VeRL、Ray 等框架已經接入。在 Hugging Face Transformers v5 中,傳入 device_map="tpu" 即可把模型部署到 TPU。

PANews 10月21日消息,據 Google Cloud 官方博客,Google 在 PyTorch Conference 2026 上宣佈開源 TorchTPU。該項目由 Google 與 Meta PyTorch 團隊聯合開發,代碼已發佈在 GitHub。TPU 由此成為與 GPU、CPU 並列的 PyTorch 原生硬件選項,現有代碼只需少量修改即可遷移。vLLM、SGLang、TorchTitan、VeRL、Ray 等框架已經接入。在 Hugging Face Transformers v5 中,傳入 device_map="tpu" 即可把模型部署到 TPU。測試顯示,TorchTitan 訓練 Qwen 3 8B 的 MFU(模型算力利用率)最高為 52%,規模可擴展到 8,192 顆 Ironwood TPU。Google 還與 Red Hat、IBM 發佈了 llm-d 1.0,LiteRT 也加入了 PyTorch 生態。

相關閱讀