FB 建議貼文

選取貼文複製成功(包含文章連結)!

AMD於Advancing AI 2026大會正式推出表Helios機櫃級AI解決方案,叫板效能與經濟效益超越NVIDIA

AMD於Advancing AI 2026大會正式推出表Helios機櫃級AI解決方案,叫板效能與經濟效益超越NVIDIA

ADVERTISEMENT

AMD發表結合第6代EPYC CPU、Instinct MI455X GPU、Pensando網路技術、ROCm軟體堆疊的Exaflop級AI效能解決方案,並提供領先業界的記憶體容量與高度擴展性。

AI算力需求持續成長

AMD執行長蘇姿丰在Advancing AI 2026大會演說中提到,AMD的目標為讓人工智慧在運算負載發生的地點運作(We want intelligence to run right where the work happens.),言下之意就是針對AI模型訓練、雲端AI推論服務、邊緣AI推論運算,甚至是自動駕駛車輛、機器人等終端與實體AI提供適合的AI運算解決方案。

延伸閱讀:
AMD Helios平台實力揭秘:從2nm製程到HBM4,如何實現「AI Everywhere」願景?
AMD於MWC 2026發表Ryzen AI 400系列桌上型處理器,新架構內顯與NPU強化遊戲與AI效能
【COMPUTEX 2026】Ryzen 7 5800X3D 10週年紀念版居然有驚喜!AMD主管於訪談中透露改善3D V-Cache製程技術

隨著AI資料中心與前沿AI(frontier AI)的需求日益增長,企業客戶的需求從單一機櫃擴大至吉瓦(Gigawatt)等級大型AI運算基礎設施,並需同時兼顧效能、電力效率與Token(字詞)成本等因素,

AMD先前在CES 26拉斯維加斯消費性電子展Keynote演說中發表Helios平台,並在這次正式推出Helios機櫃級AI解決方案,提供整合式的機櫃級建構模組,能在簡化部署的同時,提供高效能算力、網路連接能力、開放軟體環境,並在低、中、高互動負載下皆能提供超越基於競爭對手NVIDIA Vera Rubin NVL72機櫃已公布的模擬規格之Token吞吐量。

AMD執行長蘇姿丰在Advancing AI 2026大會演說介紹Helios機櫃級AI解決方案,並介紹代號為Venice的第6代EPYC CPU。

蘇姿丰也在演說中分享對AI趨勢的觀察,在過去的2年之中Token的需求量成長幅度達到158倍。

從2020年開始,AI模型訓練所需的算力每年成長5倍。同時近2年訓練與推論消耗的算力也從6:4,轉移為偏重推論的4:6。

代理式AI執行過程會除了會反覆進行推論與推理運算,也會調用多個次代理人與工具,進而推升整體運算量,最終導致需要更大量的資料中心與伺服器來彌補算力需求。

彈性解決方案滿足全方位需求

AMD Helios整合代號為Venice的第6代EPYC CPU(處理器)、Instinct MI455X GPU(繪圖處理器,可加速AI運算)、Pensando網路技術、ROCm軟體堆疊等軟硬體技術,每個機櫃具有18組符合開放機櫃寬規範(Open Rack Wide-Aligned)的GPU運算托盤,單一機櫃能夠容納72組GPU,整合容量高達31 TB的HBM4高頻寬記憶體,記憶體頻寬可達1.7 PB/s,提供高達2.9 EFLOPS的峰值FP4效能或是1.4 Exaflops峰值FP8效能。

Helios採用UALink over Ethernet(UALoE)技術連接機櫃內的運算單元,以進行向上擴展(Scale-up),並採用Ultra Ethernet Consortium規範乙太網路進行連接多組機櫃的向外擴展(Scale-out),並藉由ROCm軟體在跨機櫃與叢集規模的部署環境,達成高吞吐量推論與統一的分散式訓練,平台也支援縱深防禦(defense-in-depth)的機櫃級安全功能。

根據AMD效能實驗室(AMD Performance Labs)提供的數據,Helios系統中的Instinct MI455X GPU與Vera Rubin GPU(NVFP4 Dense資料類型)相比,峰值FP4效能領先達15%。與NVIDIA Vera Rubin NVL72機櫃已公布的記憶體規格相比,Helios系統的HBM高頻寬記憶體容量多出50%,頻寬也提升6%。在向外擴展部分,Helios機櫃的網路頻寬較Vera Rubin NVL72機櫃已公布規格提升50%。

綜合上述優勢,在進行Kimi K2 Thinking運算負載(輸入32K/輸出8K)時, Helios機櫃級解決方案的每美元Token產出效能較Vera Rubin NVL72機櫃高出30%,代表客戶部署等值機櫃時能夠生成更多Token,進而創造更大的效益。

蘇姿丰在演說中介紹Helios機櫃級AI解決方案,圖為GPU運算托盤。

演說過程展示第6代EPYC CPU(右下)、Instinct MI455X GPU(左上)、Salina DPU(資料處理器,右上)、Vulcano AI NIC(網路卡,左下)等晶片。

蘇姿丰也展示了整合GPU、記憶體等元件的Instinct MI455X強化加速器模組(Enhanced Accelerator Module,EAM)。

第6代EPYC CPU、Instinct MI455X GPU、Salina DPU、Vulcano AI NIC等晶片為Helios平台帶來最強的CPU、GPU效能,以及最高的HBM4高頻寬記憶體容量與頻寬,同時提供最高向上擴展、向外擴展網路頻寬。

Helios機櫃具有18組符合開放機櫃寬規範的GPU運算托盤,單一機櫃能夠容納72組GPU。

AMD表示Helios每美元Token產出效能較Vera Rubin NVL72高出30%。

Helios方案提供領導地位的CPU與GPU效能、Open Rack開放硬體架構、相容於Ultra Ethernet規範的擴展能力,並具有機櫃級效率與服務性(Serviceability)與即可使用(Turnkey)方案。

Helios機櫃的Instinct MI455X GPU採用CDNA5架構,最高可以提供40 PFLOPS的FP4資料類型AI運算效能,並搭載容量高達432 GB的HBM4高頻寬記憶體。

Helios機櫃的向上、向外擴展分別採用UALink over Ethernet與Ultra Ethernet乙太網路技術,並透過Salina DPU提供資料防護與加速儲存。

根據AMD效能實驗室提供的數據,Helios系統與NVIDIA Vera Rubin平台相比,FP4、FP8資料類型AI運算效能領先15%, HBM高頻寬記憶體容量多出50%,頻寬也領先6%,向外擴展的網路頻寬領先50%,向上擴展表現相同。

Helios機櫃能夠提供4,600組CPU核心與18,000組GPU運算單元,FP4資料類型AI運算效能總計為2.9 EFLOPS,HBM高頻寬記憶體容量達31 TB。

AMD AI事業群資深副總裁Vamsi Boppana表示,隨著前沿AI基礎設施快速演進,Helios機櫃級平台整合頂尖運算能力、高效能網路技術與開放軟體,賦予客戶靈活性,以加速大規模推論、前沿模型訓練以及下一代AI基礎設施的發展。

除了Helios機櫃之外,筆者也將於後續文章分析第6代EPYC CPU、Instinct MI455X GPU,以及Advancing AI 2026大會的更多資訊,請讀者參考下方目錄繼續閱讀。

Advancing AI 2026大會相關報導目錄
AMD於Advancing AI 2026大會正式推出表Helios機櫃級AI解決方案,叫板效能與經濟效益超越NVIDIA(本文)
AMD推出第6代EPYC伺服器CPU,台積電2nm製程節點帶來256核心高密度(暫定,工作中)
Instinct MI455X結合領先效能、HBM4記憶體、先進安全性與開放軟體(暫定,工作中)
(未完待續)

國寶大師 李文恩
作者

電腦王特約作者,專門負責硬派內容,從處理器、主機板到開發板、零組件,尖端科技都一手包辦,最近的研究計畫則包括Windows 98復活與AI圖像生成。

發表回應
謹慎發言,尊重彼此。按此展開留言規則