Google TorchTPU 開源釋出,AI 應用程式可移植至 TPU 執行
Google 21 日藉 PyTorch 北美大會宣布,開發者期待已久的 PyTorch 版本 TorchTPU,現已作為開源專案正式推出。Google 進而加入亞馬遜的行列,試圖打破 NVIDIA 對 AI 產業的宰制。
PyTorch 是一套熱門的開源機器學習與深度學習框架,主要使用 Python 撰寫,供開發者與新創公司用於建構、訓練並運行 AI 模型。根據資料顯示,高達 85% 的 AI 應用程式都在使用它。
PyTorch 最初是由 Meta 在 2016 年開發,那時世人還沒有察覺到大型語言模型將會改變世界,而 NVIDIA GPU 已是 AI 研究的硬體標配,因此 PyTorch 許多功能是為搭配這些晶片運作而設計。到了 2022 年,Meta 將 PyTorch 移交給 Linux 基金會(Linux Foundation),這是一家管理許多重要開源專案的非營利組織。
Google 版的 TorchTPU,讓各項 AI 應用程式得以在 TPU(Tensor Processing Unit)運行。它也讓現有採用 PyTorch 的應用程式能輕易移植到 TPU,進而轉向 Google Cloud 的服務。開發者只要更改簡單的配置即可達成,完全不需要重寫程式碼。
值得一提的是,亞馬遜 19 日也有類似動作,推出自家版本的 PyTorch,稱為 TorchNeuron。它讓 AI 應用程式無須重新撰寫,即可移植到亞馬遜自研晶片 Trainium 以及 AWS 上。亞馬遜還表示,他們努力削弱 NVIDIA 對 PyTorch 的控制權,包括向 PyTorch 主專案提交程式碼,將各項功能與 NVIDIA GPU 進行去耦合,使其在預設情況下能對任何硬體更加開放。
不過,Google 於幾個層面上或許更勝亞馬遜一籌。Google 直接與 Meta、Hugging Face、Inferact(vLLM 開發商)、RadixArk(SGLang 開發商)及其他業者合作,確保 TorchTPU 各項功能與程式碼函式庫,能如同原版 PyTorch 一樣順利協作。
除此之外,Google 也推出一套專屬工具 TPU agent suite,協助開發者將 AI 應用程式移植到 Google 的晶片與雲端上,並在過程中修復各項錯誤。Google 甚至更新熱門的 LiteRT 工具,讓它與 PyTorch 的 AI 應用程式協作更出色。
@Google & @Meta launch TorchTPU for native PyTorch support on Google TPUs!
🔥True eager execution & torch.compile backend
⚡Fast inference via vLLM & SGLang
🏋️Near-linear scaling for Llama 3 405B & Qwen 3 MoE via TorchTitan
Read more here: https://t.co/58t22euksA https://t.co/tjsip6GgDg
— PyTorch (@PyTorch) October 20, 2026
Google 與亞馬遜相繼推出 TorchTPU、TorchNeuron,顯示 AI 晶片競爭正從硬體效能與成本,進一步延伸至軟體生態系的主導權。過去 NVIDIA 憑藉 CUDA、PyTorch 等生態系建立深厚優勢,讓開發者難以輕易轉換平台;如今 Google 與亞馬遜試圖降低應用程式移植門檻,吸引更多 AI 工作負載轉向自研晶片與雲端服務。
▲ 深入了解 TorchTPU。
(首圖來源:Google Cloud Blog)