FB 建議貼文

選取貼文複製成功(包含文章連結)!

【GIGABYTE AI TOP ATOM動手玩(2)】: 17萬元迷你電腦開箱!軟硬體特色看光光

【GIGABYTE AI TOP ATOM動手玩(2)】: 17萬元迷你電腦開箱!軟硬體特色看光光

ADVERTISEMENT

接下來我們來看看GIGABYTE AI TOP ATOM的硬體設計,以及NVIDIA DGX作業系統與獨家支援的AI TOP Utility公用程式。

4TB固態硬碟儲存沒煩惱

NVIDIA推出的DGX Spark由先前的Project DIGITS計劃改名而來,NVIDIA也開放多間合作夥伴推出能夠強化散熱設計的客製化機種,筆這次借測的機種為GIGABYTE AI TOP ATOM。

延伸閱讀:
CES2025:DGX超級電腦也搞Mini,NVIDIA推出搭載GB10 Superchip的Project DIGITS工作站
CES2025:NVIDIA Project DIGITS迷你AI工作站拆解,內部GB10 Superchip實體搶先看
NVIDIA DGX Spark迷你AI超級電腦開賣,多位合作夥伴推出自有品牌機型

AI TOP ATOM的規格基本上與DGX Spark一致,最大的差異在於它直接將固態硬碟的容量攻頂至4TB,方便使用者儲存更多AI模型或是訓練資料庫。

另一方面,AI TOP ATOM除了與DGX Spark一樣支援所有NVIDIA提供的軟體堆疊之外,也獨家支援AI TOP Utility公用程式,提供方便的系統資訊儀表板、AI模型微調工具,以及大型語言模型(LLM)與圖像生成等AI推論工具。

NVIDIA自家推出的DGX Spark採用與DGX-1超級電腦相近的造型,並縮小至可以放置於桌面上。

GIGABYTE AI TOP ATOM的包裝透露產品定位為個人AI超級電腦,並標示由NVIDIA加速(Accelerated by NVIDIA)。

AI TOP ATOM機身正面有大型散熱進氣口,外觀設計相當低調。

機身背面則為散熱出風口,左起為電源鍵、Type-C電源輸入、3組USB Type-C、HDMI 2.1a、10 GbE RJ-45乙太網路,ConnectX-7智慧型網路介面卡等端子。

AI TOP ATOM搭配的電源供應器功率高達240 W,採用USB Type-C介面以及Power Delivery 3.1規範。

右下角的ConnectX-7智慧型網路介面卡採用QSFP介面,具有高達200 Gb/s的超高頻寬,並可用於串接2台主機。

串接2台DGX Spark之後能夠讓統一系統記憶體容量擴充至256 GB,進而將原本僅支援參數量為200B的模型,擴展至能夠支援405B參數量的模型。

超大記憶體為無可取代的優勢

DGX Spark的一大優勢為搭載Blackwell架構的繪圖處理器(GPU),在軟體層面能夠與NVIDIA生態系統中的個人電腦、伺服器、雲端運算服務相容,因此不但能夠執行相同的AI應用程式,也能將在DGX Spark上開發、測試完成的程式快速部署到上述機器。

另一方面,容量高達128 GB的統一系統記憶體也讓DGX Spark能夠訓練、微調、執行參數量更大的AI模型,提供高於顯示記憶體容量僅有用32 GB的GeForce RTX 5090顯示卡的應用彈性。

(筆者註:一般情況下若記憶體不足以載入模型或是對應檔案,將會出現稱為Out of Memory的錯誤而導致完全無法完成工作,而不是僅是效能降低而已。)

NVIDIA分析AI發展的趨勢與突破包含更大的模型與資料庫、模型微調、模型量化與修剪、多模態模型、推理式模型、以及代理式AI。

DGX Spark系列產品具有完整的開發環境與軟體堆疊,能夠支援多數主流模型、應用程式、運算框架。

DGX Spark適合應用於開發AI應用程式、微調模型、AI推論運算、資料科學、機器人、電腦視覺、視覺語言模型等應用。

DGX Spark也支援Cursor、VS Code、AI Workbench等多數熱門開發環境,編譯的程式能夠直接相容於Blackwell架設雲端運算主機。

DGX Spark搭載容量高達128 GB的統一系統記憶體,更適合用來微調模型。舉例來說微調FLUX 12B模型將佔用近110 GB記憶體。

【GIGABYTE AI TOP ATOM動手玩(2)】: 17萬元迷你電腦開箱!軟硬體特色看光光

▲DGX Spark也能適合AI推論運算,例如執行Cosmos Reason1視覺語言模型

大容量統一系統記憶體對AI圖像生成也很有幫助,例如例用FLUX1 .Dev 12B模型(FP16資料類型)生成1K解析度圖像將佔用近35 GB記憶體,超過GeForce RTX 5090顯示卡的32 GB。

NVIDIA也提供了多項DGX Spark的效能數據。

筆者將於下篇文章中介紹GIGABYTE提供的AI TOP Utility公用程式,並進行大型語言模型推論實際操作,請讀者參考下方全文目錄連結繼續閱讀。

回到系列全文目錄

國寶大師 李文恩
作者

電腦王特約作者,專門負責硬派內容,從處理器、主機板到開發板、零組件,尖端科技都一手包辦,最近的研究計畫則包括Windows 98復活與AI圖像生成。

使用 Facebook 留言
發表回應
謹慎發言,尊重彼此。按此展開留言規則