亞馬遜推出 TorchNeuron,PyTorch 程式免改寫就能搬上 Trainium 晶片
亞馬遜(Amazon)19 日推出名為 TorchNeuron 的新工具,主打讓開發者幾乎無需重寫程式,即可將以 PyTorch 編寫的 AI 工作負載直接遷移至自家的 Trainium 晶片上執行,藉此削弱輝達(NVIDIA)在人工智慧運算市場中長期建立的軟體優勢。
根據亞馬遜 Annapurna Labs 的說法,TorchNeuron 僅需進行一次設定變更即可運作,開發者無需重新改寫應用程式。亞馬遜並表示,這套軟體將以免費且開放原始碼的形式釋出,並在矽谷的開發者大會上正式亮相。
(Source:亞馬遜)
PyTorch 是目前最廣泛使用的 AI 開發框架之一,由 Meta 維護。輝達則投入十多年打造 CUDA 軟體生態系,確保 PyTorch 在其晶片上能發揮最佳效能,進而形成強大的開發者黏著度。亞馬遜此次的舉措,正是為了降低開發者在轉向其他晶片時所面臨的工程門檻。
亞馬遜表示,目前已有超過 30 家早期客戶在使用這項新工具,領域涵蓋機器人、世界模型(World Models)與語音 AI 等;部分客戶回報,切換到 Trainium 後可帶來顯著的成本節省。另有資料指出,TorchNeuron 目前已進入公開測試階段,並支援 Trainium2 與 Trainium3,但第一版仍有部分 PyTorch 功能尚未支援。
Amazon is taking its biggest shot at Nvidia yet with new TorchNeuron dev tool
Amazon’s TorchNeuron lets PyTorch code run on AWS Trainium chips
Amazon Launches TorchNeuron to Challenge Nvidia’s Grip on AI Developers
Amazon challenges Nvidia’s software advantage with new tool for its own AI chips
(首圖來源:shutterstock)