2025.06.13 15:00

AMD於Advancing AI 2025發表Instinct MI350系列AI加速器,ROCm 7軟體堆疊改善效能達3.6倍

ADVERTISEMENT

AMD於Advancing AI 2025大會上發表全新Instinct MI350系列AI加速器,並推出能夠容納128組GPU的機櫃設計,也透過新版ROCm 7軟體堆疊改善效能。

性價優於對手40%

AMD執行長蘇姿丰於Advancing AI 2025大會的演說中發表Instinct MI350系列AI加速器,並分析隨著代理式AI、國家主權AI等應用需求的成長,整個產業對於AI運算加速的需求也隨之增加。

延伸閱讀:AMD提交MLPerf 4.1測試結果,Instinct MI300X追平業界領先者

AMD發表Instinct MI350、MI355X等全新GPU(繪圖處理器),並採用UBB8通用基板(Universal Base Board)設計,方便現有Instinct MI325伺服器使用者直接升級GPU,進一步節省整體持有成本(TCO)。

ADVERTISEMENT

另一方面AMD也推出水冷與氣冷散熱方案的機櫃設計,分別最多能夠容納128、64組GPU,滿足不同需求、機房環境的企業應用需求。

筆者將發表會重點整理於下方圖文說明。

ADVERTISEMENT

ADVERTISEMENT

ADVERTISEMENT

強化軟體環境

AMD也在於Advancing AI 2025大會發表新版ROCm 7軟體堆疊,除了能夠支援最新推出的Instinct MI350系列AI加速器,也透過軟體方式改善現有硬體的運算效能,帶來更高的附加價值。

另一方面,AMD也進一步將ROCm推廣至一般家用、客戶端裝置,讓個人使用者也能享受本地端AI運算的便利,已支援Fedora與OpenSUSE等Linux發行版本,並預計於2025下半支援Red Hat EPEL與Ubuntu。

對於Windows作業系統的使用者而言,目前可以透過WSL(Windows Subsystem for Linux)使用ROCm,近期也會於2025年第3季與7月支援PyTorch與ONNX-EP框架,進一步增加原生執行AI應用程式的便利性。

AMD也特別強調Ryzen AI Max處理器,其內建顯示晶片最高能調用高達96 GB的顯示記憶體,能在筆記型電腦或迷你工作站執行參數量達70B的大語言模型,帶來更大的使用彈性。

▲AMD的YouTube官方頻到提供主題演說重播影片。

Advancing AI 2025大會於美國加州聖荷西當地時間2025年6月12日舉辦AMD Advancing AI 2025,有興趣的讀者可以前往YouTube觀看主題演說影片

ADVERTISEMENT