Computex 2022：NVIDIA發表液冷A100 PCIe GPU，還有多款Grace Hopper、AGX Orin產品

雖然NVIDIA在2022年Computex台北國際電腦展並沒有發表GeForce RTX 40系列顯示卡與個人電腦相關產品資訊，但帶來的使用液冷散熱方案的A100 PCIe運算卡，還有多款Grace Hopper、AGX Orin設計參考平台與對應產品。

為專業運算卡導入液冷散熱

在NVIDIA H100 GPU正式推出之前，A100仍是目前的主力專業運算GPU，而為了滿足資料中心對高效能、穩定、碳中和等要點的需求，推出採用液冷散熱方案的A100 PCIe運算卡。

在全球擁有多處資料中心的美國電信服務商Equinix在1月時設立了專門追求提升能源效率的部門，其中一項任務便是研究液冷（Liquid Cooling、Direct-Chip Cooling，指透過液態物質或水冷系統進行晶片散熱），這種技術以日益成熟，並廣泛應用於世界上最快的超級計算機中。NVIDIA表示採用傳統空冷（Air-Cooled，使用風扇進行散熱）的GPU已經帶來20倍於處理器的AI推論、高效能運算電力效率，而導入液冷就是NVIDIA對加速運算的下一個努力重點。

在獨立的測試實驗中，Equinix與NVIDIA都發現在進行相同工作負載的情況下，使用液冷能較空冷節省約30%的能源消耗，讓PUE（Power Usage Effectiveness，電力使用效率，越低代表越省電，理想的PUE數值為 1.0）從1.6降低至1.15。另一方面， 空冷的A100 GPU需要占用2組PCIe插槽，而水冷版本則只需1組，能夠在相同的機架空間中容納2倍運算卡，大幅提升運算密度。

▲ 液冷版本A100 PCIe運算卡只占用1組PCIe插槽，目前已經開始發送樣品，預計於2022年夏季上市。

▲ NVIDIA也會推出液冷版本HGX A100伺服器，下世代的H100系列也將有液冷版本。

▲ 根據NVIDIA提供的數據，液冷版本A100A100 PCIe運算卡將可較空冷版本節省66%整體機架空間與28%能源消耗。

多款設計參考平台登場

回顧NVIDIA先前已發表Grace架構處理器與Hopper架構GPU，而這次NVIDIA將推出搭載Grace CPU Superchip（由2組Grace處理器組成）或Grace Hopper Superchip（由Grace處理器、Hopper GPU各1組組成）的4種2U形式伺服器設計參考平台。

針對雲端遊戲與繪圖應用的NVIDIA CGX以及為數位孿生應用NVIDIA OVX搭載Grace CPU Superchip、NVIDIA繪圖卡與BlueField-3資料處理器，而針對AI運算與高效能運算設計的NVIDIA HGX則有搭載Grace CPU Superchip或Grace Hopper Superchip的版本，並搭配BlueField-3資料處理器，與客製化I/O介面及第4代NVLink。

另一方面，也有超過30間全球廠商在台北國際電腦展推出搭載Jetson AGX Orin的生產力系統，並有多款邊緣人工智慧、AIoT、機器人和嵌入式等應用，規範包括製造業、零售業、交通運輸、智慧城市、醫療保健等行業。

▲ NVIDIA處了涉足GPU之外，近年也積極推出處理器（CPU）與資料處理器（GPU）。

▲ Grace Hopper Superchip（左）由1組Grace處理器、Hopper GPU組成，Grace CPU Superchip（右）則由2組Grace處理器組成。

▲ NVIDIA CGX主打雲端遊戲與繪圖應用，搭載Grace CPU Superchip、A16繪圖卡與BlueField-3資料處理器。NVIDIA OVX則針對數位孿生應用，搭載Grace CPU Superchip、NVIDIA繪圖卡與BlueField-3資料處理器

▲ 針對AI運算與高效能運算設計的NVIDIA HGX則有搭載Grace Hopper Superchip等不同選擇。

▲ Jetson AGX Orin則有開發套件與多種規格、效能各異的運算模組可供選擇。

不像NVIDIA於去年COMPUTEX發表GeForce RTX 3080Ti顯示卡，今年NVIDIA並未帶來任何家用市場產品的消息，我們還要再等一段時間才能聽到GeForce RTX 40系列顯示卡的資訊。