Intel推出第5代Xeon可擴充處理器,提高電力效率並降低總擁有成本與碳排放

Intel推出第5代Xeon可擴充處理器,提高電力效率並降低總擁有成本與碳排放

ADVERTISEMENT

Intel於12月14日正式推出第5代Xeon可擴充處理器,帶來更出色的電力效率與總擁有成本,協助客戶最大限度地延長基礎設施投資並降低碳排放。

改善AI推論運算與總擁有成本

代號為Emerald Rapids的第5代Xeon可擴充處理器最高具有64組核心,比前代最高階產品多出4組,而LLC(Last Level Cache,最後階快取)最高容量可達320MB,約為前代產品112.5MB的3倍,並將記憶體傳輸速度由前代的DDR5-4800提升至DDR5-5600。它除了支援8通道DDR5記憶體,指定型號的處理器還能支援4通道CXL Type 3記憶體,以滿足更大容量記憶體的應用需求。

第5代Xeon可擴充處理器每個核心都具有AI加速功能,能夠滿足要求嚴苛的點對點AI工作負載,最多能在多達200億參數的模型上提升42%的推論效能提升,並提供低於100毫秒的延遲。

第5代Xeon可擴充處理器與前代產品採用相同腳位,軟體和平台方面與第4代Xeon可擴充處理器相容,讓客戶在升級時能最大限度地延長基礎設施投資,如此一來便能在與前代產品相同的功耗範圍內,提供更高的運算能力和更快的記憶體支援,同時降總擁有成本和碳排放。

與第4代相比,第5代Xeon可擴充處理器平均效能提升高達21%,平均電力效能提升36% 。若遵循普遍的五年更新周期,從舊系統(第1代)升級到第5代Xeon可擴充處理器的總擁有成本(TCO,Total Cost of Ownership)可降低高達77% 。

Intel於12月15日台灣上市記者會中展示第5代Xeon可擴充處理器實物。

Intel執行副總裁暨資料中心與AI事業群總經理Sandra Rivera稍早於台灣時間12月14日晚間在美國發表展示處理器。

第5代Xeon可擴充處理器最大的特色在於強化於處理器進行AI運算的效能,適合進行小量體的AI推論運算。

與第4代相比,第5代Xeon可擴充處理器平均效能提升高達21%,AI推論部分則提高42%。

在雲端、網通、邊緣等運算情境中,第5代Xeon可擴充處理器能提高23~50%。

若從從第1代升級到第5代Xeon可擴充處理器,可以降低94%伺服器數量以及90%電力消耗與碳排放,總擁有成本(TCO,Total Cost of Ownership)可降低高達77%。

在軟體平台方面,企業也能透過OpenVINO與OneAPI快速將多種不同語言撰寫的程式與模型快速部署不同的運算單元,大幅簡化導入AI的工作流程。

還有工作站處理器與One More Thing

Intel同時也發表了專為工作站應用的Xeon E-2400系列處理器,與前代Xeon E-2300系列相比,主要差異在於支援的記憶體由雙通道DDR4-3200提升至雙通道DDR5-4800,並提供16組PCIe Gen 5傳輸通道,平均效能也有30%的提升。

而在美國發表會現場最後的One More Thing環節,Intel執行長Pat Gelsinger以相當有趣的方式首度公開展示Gaudi 3 AI加速器的晶片,並強調它已離開晶圓廠並在實驗室過電,一切進度都符合預期,並預計於2024年推出產品。

有興趣觀看這段互動的讀者,可以參考美國發表重播影片,並跳至59:14段落。

Xeon E-2400系列為工作站等級的處理器,最高具有8組Raptor Cove架構核心。

在記者會現場也展出了對應Xeon E-2400處理器的主機板。

以GIGABYTE MX34-BS0為例,它提供4組DDR5記憶體插槽與1組PCIe Gen5x16插槽。

在美國發表會現場,Intel執行長Pat Gelsinger以相當有趣的方式進入One More Thing環節,起初他好像與工作人員就展示樣品起了一些爭執。

他不顧副總才暨商務長Christoph Schell的攔阻,「嗆聲」自己才是老闆,硬是上台展示Gaudi 3 AI運算加速器,並強調現在Gaudi 3已經離開晶圓廠並在實驗室過電。

Gaudi 3能夠滿足大型語言模型的訓練與生成式AI的運算需求。

Intel執行副總裁暨資料中心與AI事業群總經理Sandra Rivera表示,第5代Xeon可擴充處理器專為AI應用設計,為跨雲端、網路和邊緣應用部署AI功能的客戶提供更優異的效能。我們與客戶、合作夥伴和開發者生態系長期合作,在經過驗證的基礎上推出了新一代Xeon處理器,將有助於實現快速採用和以更低的總持有成本擴展規模。

國寶大師 李文恩
作者

電腦王特約作者,專門負責硬派內容,從處理器、主機板到開發板、零組件,尖端科技都一手包辦,最近的研究計畫則包括Windows 98復活與AI圖像生成。

使用 Facebook 留言
發表回應
謹慎發言,尊重彼此。按此展開留言規則