FB 建議貼文

選取貼文複製成功(包含文章連結)!

【GIGABYTE AI TOP ATOM動手玩(1)】:NVIDIA DGX Spark迷你AI工作站規格分析

【GIGABYTE AI TOP ATOM動手玩(1)】:NVIDIA DGX Spark迷你AI工作站規格分析

ADVERTISEMENT

AI TOP ATOM是GIGABYTE推出的客製化NVIDIA DGX Spark迷你AI工作站,2者的規格一致,並獨家支援GIGABYTE AI TOP Utility公用程式。

各家DGX Spark陸續登場

NVIDIA於2025年CES(消費性電子展)發表針對個人開發者規劃的Project DIGITSk迷你AI工作站,產品於10月15日正式上市,並正式定名為DGX Spark。

延伸閱讀:
CES2025:DGX超級電腦也搞Mini,NVIDIA推出搭載GB10 Superchip的Project DIGITS工作站
CES2025:NVIDIA Project DIGITS迷你AI工作站拆解,內部GB10 Superchip實體搶先看
NVIDIA DGX Spark迷你AI超級電腦開賣,多位合作夥伴推出自有品牌機型
深入成功大學機房,瞭解NVIDIA DGX-1超級電腦AI研究成功案例

NVIDIA除了以第一方廠商的身份推出造型與DGX-1超級電腦接近的DGX Spark,也開放合作夥伴推出能夠強化散熱設計的客製化機種,例如這次專題使用的GIGABYTE AI TOP ATOM,以及Acer Veriton GN100 AI Mini WorkstationASUS Ascent GX10Dell Pro Max with GB10HP ZGX Nano AI Station、ThinkStation PGX Small Form Factor WorkstationMSI EdgeXpert等機種。

NVIDIA創辦人暨執行長黃仁勳在CES25主題演說中發表DGX Spark。

DGX Spark搭載GB10 Superchip,並內建ConnectX晶片。

筆者於CES 25期間之NVIDIA媒體訪談環節所拍攝的DGX Spark實機與GB10 Superchip。

各合作廠商也以DGX Spark為基礎,推出自家的客製化機種。

DGX Spark規格分析

DGX Spark搭載Grace Blackwell架構的GB10 Superchip SoC(系統單晶片),在單一晶片整合了Grace架構處理器(CPU)以及Blackwell架構繪圖處理器(GPU),總共具有10組Arm Cortex-X925與10組Arm Cortex-A725 CPU核心,以及6,144組CUDA核心的GPU,能夠提供高達1,000 TOPS的AI運算效能,或是1 PFLOP的稀疏性(Sparsity)FP4資料類型浮點運算效能。

比較特別的是,它的系統記憶體採用容量高達128 GB的LPDDR5x-8533統一系統記憶體(Unified System Memory),可以動態分配給CPU與GPU使用,讓GPU能夠佔用更大量記憶體,進而載入參數量更大的模型並進行更精準的AI運算。

舉例來說,現在最高階的個人電腦顯示卡GeForce RTX 5090也僅搭載32 GB顯示記憶體,不足以應付gpt-oss-120b大型語言模型運作時所需接近70 GB記憶體的佔用量,而DGX Spark則能從從容容滿足這個需求,成為一般使用者想要執行超大量體AI模型時,採購AMD Ryzen AI Max+ 395處理器之外的另一選擇。

在網路通訊功能部分,DGX Spark除了支援10 GbE RJ-45乙太網路端子以及WiFi 7無線網路、藍牙5.4之外,還有1套頻寬高達200 Gbps的ConnectX-7 NIC智慧型網路介面卡,特別的是它能夠串接2台DGX Spark以擴充統一系統記憶體容量,進而將原本僅支援參數量為200B的模型,擴展至能夠支援405B參數量的模型。        

DGX Spark規格簡表
元件 規格描述
處理器(CPU)

10組Arm Cortex-X925核心 + 10組Arm Cortex-A725 CPU核心

繪圖處理器(GPU) NVIDIA Blackwell架構(第5代Tensor核心與第4代RT核心)
CUDA核心數量 6,144
硬體編解碼器 NVENC x1 + NVDEC x1
複製引擎

2(支援同時雙向GPU、記憶體資料傳輸,以提高AI運算吞吐量)

記憶體

128 GB LPDDR5x-8533統一系統記憶體(Unified System Memory)

記憶體通道寬度 256 bit
記憶體頻寬 273 GB/s
儲存裝置 容量為1 TB或4 TB之NVMe通訊協定、具加密功能之M.2尺寸固態硬碟
網路 10 GbE RJ-45乙太網路,ConnectX-7智慧型網路介面卡,Wi-Fi 7無線網路,藍牙5.4
擴充端子

HDMI 2.1a x1,USB Type-C x3,USB Type-C電源端子x1

電源供應器功率 240 W
預載作業系統 NVIDIA DGX作業系(客製化Ubuntu)
尺寸 15 x 15 x 5.05 CM
重量 1.2 KG

GB10 Superchip整合了20核心的Grace架構處理器以及Blackwell架構繪圖處理器。

GB10 Superchip之裸晶展示圖。

與採用Pascal架構GPU的NVIDIA DGX-1超級電腦相比」,DGX Spark的尺寸、耗電量與價格都降低許多,但是效能卻不降反增。

DGX Spark能夠透過ConnectX-7 NIC智慧型網路介面卡串接2台主機,以擴充統一系統記憶體容量,並支援參數量達405B的模型。

參考AMD提供的數據,載入120B左右參數量的模型將消耗68 GB顯示記憶體。

筆者將會在後續文章中以GIGABYTE AI TOP ATOM做為範例,介紹其硬體特色與軟體功能,並執行AI圖像生成的應用程式,體驗DGX Spark的功能。

GIGABYTE AI TOP ATOM動手玩系列文章目錄:
【GIGABYTE AI TOP ATOM動手玩(1)】:NVIDIA DGX Spark迷你AI工作站規格分析(本文)
【GIGABYTE AI TOP ATOM動手玩(2)】: 17萬元迷你電腦開箱!軟硬體特色看光光(工作中)
【GIGABYTE AI TOP ATOM動手玩(3)】:GIGABYTE AI TOP Utility大型語言模型聊天機器人實戰(工作中)
【GIGABYTE AI TOP ATOM動手玩(4)】:AI圖像生成前置設定,Comfy UI、Stable Diffusion、遠端操作3個願望1次滿足(工作中)
【GIGABYTE AI TOP ATOM動手玩(5)】:在DGX Spark系統實戰Stable Diffusion圖像生成(工作中)
【GIGABYTE AI TOP ATOM動手玩(6)】:gpt-oss-120b模型搭配VS Code,自行架設Vibe Coding自然語言程式開發環境(工作中)
【GIGABYTE AI TOP ATOM動手玩(7)】:透過區域網路連接至gpt-oss-120b模型,在其他電腦進行Vibe Coding程式開發(工作中)
【GIGABYTE AI TOP ATOM動手玩(8)】:Vibe Code實戰,透過AI撰寫實用小程式(工作中)

國寶大師 李文恩
作者

電腦王特約作者,專門負責硬派內容,從處理器、主機板到開發板、零組件,尖端科技都一手包辦,最近的研究計畫則包括Windows 98復活與AI圖像生成。

使用 Facebook 留言
發表回應
謹慎發言,尊重彼此。按此展開留言規則