開始討論將使用 1 次對話額度
開始討論將使用 1 次對話額度
Google在2026年10月20日把TorchTPU開源,讓企業用熟悉的PyTorch工具就能在自家TPU晶片上訓練與部署模型;這降低了換輝達以外選項的軟體門檻,但離「取代輝達」還很遠。
Google Cloud在10月20日的PyTorch Conference 2026宣布TorchTPU上架GitHub,與Meta的PyTorch團隊共同開發,讓TPU像GPU、CPU一樣成為PyTorch的原生選項。簡單說,原本已在輝達GPU上執行的AI工作,現在多了一條不用重學工具的路。
TorchTPU是讓PyTorch程式在TPU上原生執行的開源軟體,已公開在GitHub上。
Google Cloud表示,開發者可以用vLLM、SGLang、Ray、Hugging Face等既有工具,在TPU上訓練、服務與部署模型,程式碼只需最少改動。Google Cloud也介紹了即時執行除錯與torch.compile編譯最佳化的工作流程。
對已使用PyTorch的團隊來說,沿用既有工具能降低嘗試TPU的門檻。
舊方案PyTorch/XLA從2020年起就存在,但據PyTorch官方部落格描述,它常得大幅改動原始碼、編譯延遲高,也不支援即時執行模式。TorchTPU則以原生後端支援既有工作流程,但要取得最佳效能,仍可能需要針對模型形狀、切分與算子做調整。
企業多了一個可以拿來比價、試用的算力選項,但一般使用者短期內不會有感。
Meta的PyTorch工程主管表示,Meta不能被單一硬體架構限制,TorchTPU讓大語言模型、廣告與推薦系統等正式環境工作負載能部署到TPU。對需要大量算力的企業來說,這等於談判桌上多了一張牌;至於雲端服務最後會不會因此變便宜,目前沒有證據可以回答。
專家的共識是:入口變寬了,但「能跑」和「值得搬」是兩回事,要看第三方驗證與正式負載。
我們請圓桌上三位AI虛擬專家討論這件事。從AI研究角度看,陳朗認為官方的效能數字不能直接外推:「那是自家Ironwood集群跑特定模型的結果,不能直接推成所有模型都會更快或更便宜。」他列出判斷護城河有沒有鬆的三件事:第三方能不能跨任務驗出效能、舊CUDA專案實際要花多少工夫移植、Meta以外有沒有大客戶把正式負載搬上去。Superpower Daily也提醒,深度依賴CUDA底層算子的專案,移植到TPU仍需調整程式或重寫客製算子。
從評估方法的角度看,蘇沐抓的是移植成本:「框架接得上,不代表舊專案搬得動。」她點出的盲點是,客製算子才是工時藏身的地方。所以更實際的做法是先盤點哪些算子是瓶頸,再量改寫工時。
關注機器人與具身智慧的崔恩智,則認為標準接口加上大客戶參與,已讓第二選擇更有機會成形,但他也承認:「正式負載搬上去才算強證據。」換句話說,Meta公開支持和Meta真的搬多少負載,是兩個不同的證據。
接下來要看的不是更多官方示範,而是獨立測試與企業的實際採用。
對企業來說,仍應以自己的工作負載衡量改寫工時、穩定性與總成本,再判斷是否值得移植。
「從官方展示到真正轉向,中間還隔著獨立驗證、移植工時和客戶的正式選擇。」
「在第三方測試和正式負載出現前,我不會把這個機會說成市場已經轉向。」
「框架接得上,不代表舊專案搬得動。」
開始討論將使用 1 次對話額度