FB 建議貼文

選取貼文複製成功(包含文章連結)!

Intel分析代理式AI發展趨勢,說明Diamond Rapids 256核P-Core Xeon處理器優勢

Intel分析代理式AI發展趨勢,說明Diamond Rapids 256核P-Core Xeon處理器優勢

ADVERTISEMENT

Intel於新一代處理器架構媒體說明會中介紹代號為Diamond Rapids的下一代Xeon處理器特色,透過最先進的Intel 18A-P節點製程與全新架構,帶來穩定的高效能、高效率與可擴展性。

256核P-Core超強處理器登場

Intel業務暨行銷事業群商用業務總監鄭智成在新一代處理器架構媒體說明會分析代理式AI發展趨勢,同時也介紹針對伺服器應用推出、代號為Diamond Rapids的Xeon處理器,其特色包含採用最先進的Intel 18A-P節點製程,以強化處理器的效能與功耗表現,並導入包含混合鍵合的Foveros Direct 3D封裝與UCIe-S互連技術,提供先進SoC架構設計與可靈活配置的運算模組。

延伸閱讀:
Intel於Hot Chips 2026展示代理式AI與企業級產品,Diamond Rapids導入Intel 18A-P製程與扇出拓樸
Intel Xeon 6+ Clearwater Forest處理器解析,採用全新Darkmont E-Core核心
AMD推出第6代EPYC伺服器CPU,台積電2nm製程節點帶來256核心高密度

旗艦款Diamond Rapids世代Xeon處理器最高具有256組P-Core處理器核心,搭配容量最高達1.28 GB的最後階快取記憶體(LLC,Last Level Cache),分散在4組運算建置模塊(Compute Building Block)上總共16組運算小晶片(Compute Chiplet)中,不同型號處理器可以彈性調整配置。

Diamond Rapids支援DDR5-8000 RDIMM或DDR5-12800 MRDIMM(Multiplexed Rank DIMM,多工階級雙行記憶體模組),最高可組成16通道記憶體組態,並提供128組PCIe Gen 6通道與8組PCIe Gen 4通道,支援UPI 3(Ultra Path Interconnect)與CXL 3.0(Compute Express Link)等互連技術,強化多處理器之間的資料交換,以及擴充記憶體、記憶體池化等彈性擴充功能,也能透過APX延伸指令集(Advanced Performance Extensions)與AMX進階矩陣延伸指令集(Advanced Matrix Extensions),加速在處理器上執行AI應用程式的效能。

Intel業務暨行銷事業群商用業務總監鄭智成在新一代處理器架構媒體說明會分享AI產業趨勢觀點,並介紹代號為Diamond Rapids的Xeon處理器。

Diamond Rapids處理器的特色在於其核心皆為P-Core,可以帶來更高的單執行緒效能表現。

Diamond Rapids最高具有256組P-Core處理器核心,並支援16通道DDR5-8000 RDIMM或DDR5-12800 MRDIMM記憶體。

Diamond Rapids處理器具有4組運算建置模塊,其中運算建置模塊內的運算小晶片採用Intel 18A-P節點製程,基底模塊(Base Tile)則採用Intel 3-T節點製程。搭配的2組連集線器模塊(Fabric Hub Tile)則採用Intel 3節點製程。封裝方面則採用包含混合鍵合的Foveros Direct 3D封裝與UCIe-S互連技術。

與已開始量產的Intel 18A節點製程相比,效能強化版的Intel 18A-P節點製程能夠在相同效能輸出前提下節省18%電力,或是在消耗相同電力的情況下提高9%效能。

Diamond Rapids的另一個特色就是在互連集線器模塊與運算建置模塊、記憶體之間的通訊採用扇出拓樸,改善傳輸頻寬與延遲。

Diamond Rapids具有最高達256組P-Core核心的強大效能,並支援AVX 10.2、APX延伸指令集、AMX進階矩陣延伸指令集,能夠加速AI應用程式效能。

處理器需求強勁,還需搭配多種運算單元

鄭智成以Meta提供的Muse代理式AI服務為例,它目前僅在北美地區推出,活躍使用者人數約為2,000萬,每個使用者可以分配到2組免費的虛擬處理器核心。若未來有更多使用者投入,或是付費租用更多虛擬處理器核心,再加上推廣到更多地區的市場,將帶來可觀的處理器需求成長。

另一方面,隨著AI的需求日益擴張,可以預期未來將有更多不同種類的AI服務與應用問世,它們對運算的需求也將相當碎片化,因此往往需要不同的運算單元。Intel的優勢在於能夠提供多種不同的CPU(處理器),以及內建顯示晶片、獨立運算卡、資料中心GPU等不同規模的GPU(繪圖處理器)產品,對於具有延遲更低AI運算需求,則可選用Sambanova RDU(Reconfigurable Dataflow Units,可重建資料流運算單元),達到在各處依照需求彈性建置不同運算單元的推論節點。

 

鄭智成預測AI的發展將由集中式的大型模型訓練叢集,轉變為未來無所不在的推論運算節點。

在過去數月的發展過程中,企業對AI代理的需求成長3倍,每月AI代理的需求成長則成長2倍。

 

Intel除了具有這次介紹的處理器與運算卡,還提供Arc內建顯示晶片、資料中心GPU(繪圖處理器)、Sambanova RDU(Reconfigurable Dataflow Units,可重建資料流運算單元)。

在代理式AI的運作流程中,需要透過搭載CPU的伺服器編排工作,然後交給搭載GPU(吞吐量較大)或RDU(延遲較低)的伺服器生成字詞(Token),最後再將AI生成的指令交由CPU伺服器執行工具與應用程式。

Intel表示代號為Diamond Rapids的下一代Xeon處理器透過Intel 18A-P製程技術搭配全新架構,提供穩定的高效能、高效率與可擴展性,為企業級代理式AI奠定運算基礎。

國寶大師 李文恩
作者

電腦王特約作者,專門負責硬派內容,從處理器、主機板到開發板、零組件,尖端科技都一手包辦,最近的研究計畫則包括Windows 98復活與AI圖像生成。

發表回應
謹慎發言,尊重彼此。按此展開留言規則