
在台北電腦展開幕演講中,NVIDIA CEO黃仁勳隆重推出了全新設計的RTX PRO伺服器,這款產品定位於企業級和工業級AI運算平台,預示著AI技術應用的新紀元。
強大的硬體配置
RTX PRO伺服器最引人注目的地方在於其強大的硬體配置。它搭載了多達八塊最新的RTX PRO 6000 Blackwell伺服器版專業顯示卡,這些顯示卡均採用GB202晶片,每個晶片配備24064個CUDA核心和512-bit 96GB GDDR7記憶體。
總計下來,RTX PRO伺服器擁有近20萬個核心和800GB記憶體,記憶體頻寬高達13TB/s,確保了在處理大規模AI模型時的卓越效能。
為了確保多張顯示卡之間的高效協同工作,RTX PRO伺服器透過ConnectX-8 SuperNIC Switch連接所有顯示卡,實現了全向800GB/s的頻寬,有效避免了傳輸瓶頸。
然而,強大的效能也帶來了巨大的功耗。單張RTX PRO 6000顯示卡的功耗高達600W,八張卡的總功耗達到4800W。加上CPU和其他零組件,整機功耗預計將超過5000W,因此,高效的散熱解決方案對於維持系統穩定運行至關重要。
RTX PRO伺服器的效能表現極為出色。在FP4資料格式下,其AI效能高達30PFlops(每秒3億億次),圖形渲染效能也達到3PFlops(每秒3千萬億次)。這樣的效能足以輕鬆運行各種複雜的AI大模型,滿足企業級和工業級應用需求。
廣泛的合作夥伴
NVIDIA RTX PRO伺服器吸引了眾多OEM和ODM合作夥伴,包括思科、戴爾、慧與、聯想、研華、華擎、仁寶、富士康、技嘉、神達、微星、和碩、緯創、超微、英業達、廣達、華碩、緯穎等。這些合作夥伴將陸續推出基於RTX PRO伺服器的產品,進一步推動AI技術的普及和應用。
在台北電腦展的現場,黃仁勳特別展示了來自華擎和微星的RTX PRO伺服器樣機,讓與會者親身感受這款產品的強大魅力。
請注意!留言要自負法律責任,相關案例層出不窮,請慎重發文!