亞馬遜AI晶片將採用輝達技術 並推出新伺服器等服務
(路透拉斯維加斯2日電)亞馬遜公司(Amazon.com)的AWS雲端運算部門今天表示,將在未來幾代人工智慧(AI)運算晶片中採用輝達的關鍵技術。亞馬遜正在加強吸引大型AI客戶使用旗下服務。
亞馬遜網路服務(Amazon Web Services, AWS)表示,將在名為Trainium4的未來晶片中採用稱為NVLink Fusion的技術。AWS沒有透露具體發行日期。NVLink技術能在不同類型的晶片間建立高速連結,是輝達(Nvidia)最重要的技術之一。
這兩家公司是在AWS於拉斯維加斯為期一週的年度雲端運算大會上宣布這項消息。這場大會吸引了約6萬人參加。
輝達積極推動其他晶片公司採用其NVLink技術,目前英特爾(Intel)、高通(Qualcomm)以及現在的AWS都已加入。
這項技術將協助AWS打造更大型的AI伺服器,使這些伺服器之間能更快速地彼此識別與溝通,這對於訓練大型AI模型而言相當關鍵,因為訓練過程需要將數以千計台機器串聯起來。作為與輝達合作的一部分,客戶將能使用AWS所稱的AI工廠(AI Factories),即他們自己資料中心內的專屬AI基礎設施,以提升速度與即時性。
輝達執行長黃仁勳在聲明中表示:「輝達AWS正在攜手為AI工業革命打造運算結構,將先進的AI推廣到每一家企業、每一個國家,加速全球邁向智能化的步伐。」
另外,亞馬遜表示正在推出採用Trainium3晶片的新伺服器。AWS運算暨機器學習服務副總裁布朗(Dave Brown)告訴路透社,這些新伺服器於今天推出,每台配備144顆晶片,算力是AWS前一代AI產品的4倍以上,同時耗電量降低了40%。
布朗沒有提供關於算力或性能表現的具體數據,但他表示,AWS希望以價格作為優勢,與包括輝達在內的對手競爭。
布朗說:「我們必須向他們證明,我們的產品能夠提供他們所需的效能,同時設定合理的價格,讓他們獲得性價比優勢。這樣他們才會說:『沒錯,這就是我想要使用的晶片。』」
亞馬遜今天還推出NovaAI模型的新版本。亞馬遜表示,Nova 2速度更快且反應更靈敏,其中包括一個稱為Nova的版本,可針對圖像或文字轉文字、圖片、語音或影片等提示做出回應。另一個稱為Sonic的模型可以用語音輸出回應語音提示,AWS執行長賈曼(Matt Garman)在主題演講中形容其表現「接近真人」。
亞馬遜在推廣Nova時,面臨來自OpenAI的ChatGPT、 Anthropic的Claude與谷歌(Google)的Gemini等競爭對手,始終難以獲得廣泛認可。不過,亞馬遜公布AWS在最近一季的銷售額仍成長20%,主要受惠於其雲端運算與AI基礎設施服務。
在AWS拉斯維加斯大會上,亞馬遜也推出稱為Nova Forge的服務,協助企業使用自身輸入的資料創建專屬的AI模型。賈曼說:「這能讓你產生能深入理解自身資訊的模型,同時不會遺忘原本訓練過的核心資訊。」
今天中午,亞馬遜股價上漲0.9%,來到235.98美元。中央社(翻譯)