FB 建議貼文

選取貼文複製成功(包含文章連結)!

Instinct MI455X結合領先效能、HBM4記憶體,與Cerebras合作推出晶圓級引擎解構式AI推論方案

Instinct MI455X結合領先效能、HBM4記憶體,與Cerebras合作推出晶圓級引擎解構式AI推論方案

ADVERTISEMENT

AMD執行長蘇姿丰在Advancing AI 2026大會發表Instinct MI455X、Instinct MI430X等GPU產品,並宣布與Cerebras Systems合作推出採用晶圓級引擎的全新解構式AI推論解決方案。

MI400系列登場

AMD在Advancing AI 2026大會推出全新Instinct MI400系列GPU採用CDNA 5運算架構,其加速運算裸晶(Accelerated Compute Die,XCD)採用TSMC N2(台積電2 nm)節點製程,對並產品包含專為前沿AI(Frontier AI)與AI工廠設計的Instinct MI455X GPU(繪圖處理器,可加速AI運算),以及為主權AI與HPC(High Performance Computing,高效能運算)設計的Instinct MI430X GPU,不但具有領先競爭對手的效能表現,也搭載容量更大的HBM4高頻寬記憶體,並具備頻寬更高的網路連接與擴展能力,搭配先進資安防護與可擴充的系統架構,協助企業與機構部署、擴充並管理AI與HPC工作負載。

延伸閱讀:
AMD於Advancing AI 2026大會正式推出表Helios機櫃級AI解決方案,叫板效能與經濟效益超越NVIDIA
AMD Helios平台實力揭秘:從2nm製程到HBM4,如何實現「AI Everywhere」願景?
AMD於Advancing AI 2025發表Instinct MI350系列AI加速器,ROCm 7軟體堆疊改善效能達3.6倍
晶片技術大突破!Cerebras 如何實現比一般晶片多 100 倍的缺陷容忍度?

Instinct MI455X晶片內部具有8組XCD、共256組工作群組處理器(Work Group Processor,WGP),能夠提供40.26 PFLOPS的MXFP4資料類型AI運算效能。搭配2組通道與快取裸晶(Fabric and Cache Die,FCD),每組FCD具有192組HBM4高頻寬記憶體通道介面與192 MB全域L2快取記憶體。

此外它還有2組I/O裸晶(I/O Die,IOD),提供2組PCle Gen 6或3組AMD AI NIC匯流排,以及頻寬達雙向256 GB/s的AMD Infinity Fabric匯流排,並為整顆GPU提供36組頻寬達雙向3.6 TB/s的UALoE(Ultra Accelerator Link over Ethernet)以利進行Helios向上擴展(Scale-Up)。

在記憶體部分,Instinct MI455X晶片整合容量高達432 GB的12層堆疊HBM4高頻寬記憶體,傳輸頻寬達到23.3 TB/s。與前代Instinct MI350X的288 GB容量與8 TB/s頻寬,成長幅度分別達到1.5倍、2.9倍。AMD的Helios機櫃級解決方案與競爭對手NVIDIA Vera Rubin NVL72機櫃已公布的規格相比,高頻寬記憶體容量多出50%,頻寬也領先6%。

Instinct MI430X同樣具有256組工作群組處理器,能夠提供9.2 PFLOPS的MXFP4資料類型AI運算效能,最高HBM4高頻寬記憶體容量可達432 GB,頻寬同樣為23.3 TB/s。

 

Instinct MI400系列GPU採用全新CNDA 5運算架構,也是Helios機櫃級解決方案的關鍵零組件。

例代CNDA規格對照。可以看到CNDA 5的HBM高頻寬記憶體的容量、頻寬都有顯著成長。

Helios機櫃級解決方案整合Instinct MI455X GPU、第6代EPYC CPU、Salina DPU、Vulcano AI NIC等晶片。

Instinct MI455X GPU的渲染圖,它採用全新CNDA 5運算架構。

CNDA 5運算架構各部裸晶示意圖。

Instinct MI455X的XCD採用TSMC N2(台積電2 nm)節點製程,提供40.26 PFLOPS的MXFP4資料類型AI運算效能,整合容量高達432 GB的12層堆疊HBM4高頻寬記憶體。

根據AMD提供的數據,與前代Instinct MI355X相比,Instinct MI455X在低、中、高互動負載下皆能提供最高34倍的Token(字詞)生成速度效能。

在低、中、高互動負載的Token生成成本最多可節省18倍。

與競爭對手NVIDIA Vera Rubin NVL72機櫃相比,Helios機櫃級解決方案在低、中、高互動負載的Token生成速度效能領先10~15%不等。

開外掛達成超低延遲AI推論

AMD也與Cerebras Systems展開合作,推出結合Helios機櫃級解決方案與Cerebras晶圓級引擎(Wafer-Scale Engine)的全新解構式AI推論解決方案。

Cerebras晶圓級引擎的特色為打破傳統晶片尺寸限制,將整片12吋晶圓直接作為單一晶片,提供高達900,000組AI核心與容量達44 GB的SRAM(靜態隨機存取記憶體,處理器的快取記憶體即為此類),記憶體頻寬更是高達驚人的21,000 TB/s。

其中Helios能夠提供高效能且可擴展的吞吐量效能,Cerebras晶圓級引擎則提供超快速、超低延遲的Token生成能力,兩大運算引擎結合之下預計可提供高達5倍的每瓦每秒Token生成效率(Token/s/W)。

在差異化的使用情況之下,大量工作負載優先考量最大化Token生成量,而程式碼編寫、即時Copilot、即時代理與代理式工作流程則需要更快的回應時間,這項整合解決方案能夠滿足這類異質基礎設施(Heterogeneous Infrastructure)的需求,為2類運算提供最高效能表現。

Cerebras晶圓級引擎具有900,000組AI核心與容量高達44 GB的SRAM,記憶體頻達到21,000 TB/s。雖然記憶體容量不比Instinct MI455X的432 GB HBM4高頻寬記憶體,但是頻寬領先約901.29倍(沒錯,超過九百倍)。

Helios以Instinct MI455X GPU為主的AI運算能力適合應用於高吞吐量的使用情境,而Cerebras晶圓級引擎則適合超低延遲的運算需求。

結合Helios與Cerebras晶圓級引擎可以帶來高達5倍於單純使用Cerebras的每瓦每秒Token生成效率(Token/s/W)。

Helios機櫃級系統與Cerebras晶圓級引擎的整合方案預計於2026年下半推出,可以帶來兼顧高吞吐量與超低延遲的運算能力。

AMD執行長蘇姿丰表示,AMD Helios為最廣泛的推論工作負載提供領先業界的效能與擴展規模,透過與Cerebras合作,我們正將這項領先優勢延伸至對延遲極為敏感的應用領域,並為即時代理式AI打造強大的全新平台。

回到系列文章目錄

國寶大師 李文恩
作者

電腦王特約作者,專門負責硬派內容,從處理器、主機板到開發板、零組件,尖端科技都一手包辦,最近的研究計畫則包括Windows 98復活與AI圖像生成。

發表回應
謹慎發言,尊重彼此。按此展開留言規則