Supermicro基於NVIDIA GH200 Grace Hopper超級晶片的伺服器開始出貨

Supermicro, Inc.為AI、雲端、儲存和5G/邊緣領域的全方位IT解決方案製造商，近日發表了基於NVIDIA MGX參考架構的業界最廣泛GPU系統新產品組合之一，而這些系統搭載最新的NVIDIA GH200 Grace Hopper和NVIDIA Grace CPU超級晶片。新的模組化架構旨在標準化緊湊型1U和2U機箱內的AI基礎設施和加速運算，同時為當前和未來的GPU、DPU及CPU提供極高的靈活性和擴充性。Supermicro的先進液冷技術實現了高密度的硬體配置，例如搭載整合了高速連結技術的2個NVIDIA GH200 Grace Hopper超級晶片的1U 2節點配置。Supermicro每月可透過世界各地的製造廠交付數千個機櫃級AI伺服器，並確保隨插即用的相容性。

Supermicro總裁暨執行長梁見後表示：「Supermicro是推動現今AI革命的公認領導企業，並正透過助力資料中心轉型，以實現將AI用於處理多項工作負載的承諾。對我們來說，為正在快速發展的AI技術帶來高度模組化、可擴充性及通用性的系統至關重要。Supermicro基於NVIDIA MGX的解決方案不但證明我們的Building Block伺服器解決方案能使我們迅速將最新系統引進市場，在產業中也是具備極高工作負載最佳化性能的解決方案。透過與NVIDIA合作，我們正在協助加速合作企業產品上市時間，並助其在開發新AI應用程式的同時簡化部署作業及降低對環境的影響。這一系列新伺服器採用了針對AI最佳化的最新產業技術，包括NVIDIA GH200 Grace Hopper 超級晶片、BlueField和PCIe 5.0 EDSFF插槽。」

NVIDIA超大規模和高速運算副總裁Ian Buck表示：「NVIDIA和Supermicro長期以來持續合作，共同打造了一些最高性能的人工智慧系統。NVIDIA MGX模組化參考設計搭配Supermicro在伺服器領域的專業，將創造搭載了我們的Grace和Grace Hopper超級晶片的新一代人工智慧系統，以造福全球的客戶和產業。」

Supermicro NVIDIA MGX 平台概覽

Supermicro的NVIDIA MGX平台旨在提供一系列應對未來AI技術需求的伺服器。這個新產品系列解決了AI伺服器所會面臨的獨特散熱、能耗和硬體挑戰。

新的Supermicro NVIDIA MGX伺服器產品線包括：

ARS-111GL-NHR – 1個NVIDIA GH200 Grace Hopper超級晶片，氣冷
ARS-111GL-NHR-LCC – 1個NVIDIA GH200 Grace Hopper 超級晶片，液冷
ARS-111GL-DHNR-LCC – 2個NVIDIA GH200 Grace Hopper 超級晶片，2個節點，液冷
ARS-121L-DNR – 2個節點各有2個NVIDIA Grace CPU 超級晶片，共288個核心
ARS-221GL-NR – 2U機箱中配置1個NVIDIA Grace CPU 超級晶片
SYS-221GE-NR – 搭載雙路第四代Intel Xeon 可擴充處理器，以及最多4個NVIDIA H100 Tensor Core或4個NVIDIA PCle GPU

每個MGX平台都可透過NVIDIA BlueField-3 DPU 及/或 NVIDIA ConnectX-7互連實現高效能InfiniBand或乙太網路傳輸。

硬體規格

Supermicro的1U NVIDIA MGX 系統最多可配備2個NVIDIA GH200 Grace Hopper 超級晶片，包含2個NVIDIA H100 GPU和2個NVIDIA Grace CPU。每個系統為CPU提供480GB LPDDR5X記憶容量，以及為GPU提供96GB的HBM3或144GB的HBM3e記憶容量。記憶體一致，高頻寬、低延遲的NVIDIA-C2C互連技術可實現以每秒900GB的速度將CPU、GPU和記憶體進行連結，是PCIe 5.0的7倍。該系統的模組化架構提供多個PCIe 5.0 x16 FHFL插槽，以容納用於雲端和資料管理的DPU，同時支援額外的GPU、網路和儲存擴充。

具備2個NVIDIA GH200 Grace Hopper 超級晶片的1U 2節點設計及Supermicro成熟的Direct-to-Chip液冷解決方案可以降低營運支出（OPEX）超過40%，同時提高運算密度，簡化大型語言模型（LLM）叢集和高速運算應用的機櫃級部署。

2U機箱設計的Supermicro NVIDIA MGX平台支援NVIDIA Grace和x86架構的CPU，並可配置最多4個全尺寸資料中心GPU，如NVIDIA H100 PCIe、H100 NVL或L40S。該平台也提供三個用於I/O連接的額外PCIe 5.0 x16插槽，以及八個可熱插拔的EDSFF儲存裝置插槽。

Supermicro提供了NVIDIA網路，能保護並加速其MGX平台上的人工智慧運行作業。這包括NVIDIA BlueField-3 DPU，它能提供2倍的200Gb/s連接速度以加速用戶到雲端和資料儲存的存取——與ConnectX-7適配器，是能於GPU伺服器之間提供最高400Gb/s的InfiniBand或乙太網路連接速度的組合。

開發人員可以迅速運用這些新系統與NVIDIA軟體服務來處理各種不同產業的工作負載。該軟體服務包含NVIDIA AI Enterprise這是一款企業級軟體，能夠驅動NVIDIA AI平台並簡化生成式人工智慧、電腦視覺、語音人工智慧等生產就緒應用的開發和部署。此外，NVIDIA HPC軟體開發套件提供了推動科學運算進步所需的基本工具。

Supermicro NVIDIA MGX系統的各方面都旨在提高效率，包含從智慧散熱設計到零件選擇。NVIDIA Grace 超級晶片CPU擁有144個核心，相較於現今產業標準的x86 CPU，其每瓦效能提高了2倍。特定的Supermicro NVIDIA MGX系統可在1U機箱中配置2個節點，能夠搭載最多包括共288個核心的2組Grace CPU超級晶片，能在超大規模及邊緣資料中心提供突破性的運算密度和能源效率。