ADVERTISEMENT
NVIDIA推出的RTX Spark平台最大的特色就是支援Windows 11作業系統與應用程式,讓創作者與開發者能夠享受GPU加速的Windows生態系體驗。
NVIDIA搶灘Windows代理式AI方案
代理式AI除了需要效能較高的GPU(繪圖處理器)、NPU(神經處理器)以滿足AI運算的需求之外,也需要核心數量較多的CPU(處理器)以利AI代理主動操作各種傳統應用程式,此外因為可能會同時執行多款參數量較高的AI麼型,對記憶體容量的需求也會比較高。
先前NVIDIA推出的DGX Spark平台能夠滿足上述要件,然而它目前只支援Linux作業系統,AMD則是透過代號為Strix Halo的Ryzen AI Max+ 395等處理器,藉著x86架構CPU、規模更大的內建GPU、支援128 GB記憶體等特色,搶先將代理式AI體驗帶到Windows生態系。
延伸閱讀:
RTX Spark Editor’s Day系列文章目錄
CES2025:NVIDIA Project DIGITS迷你AI工作站拆解,內部GB10 Superchip實體搶先看
【GIGABYTE AI TOP ATOM動手玩(1)】:NVIDIA DGX Spark迷你AI工作站規格分析
AMD更新驅動程式,Ryzen AI Max+ 395處理器於本機執行128B參數大型語言模型
而RTX Spark平台採用與DGX Spark的GB10 SoC,同樣最高支援128 GB記憶體,主要的差別在於由Linux遷移至Windows 11作業系統,讓熟悉Windows生態系遊戲、創作、生產力等軟體的使用者能夠在既有基礎上添加豐富的代理式與生成式AI體驗。
NVIDIA與Microsoft也合作透過Windows Get Started、Easy Local Setup等程式引導使用者快速安裝多種AI軟體,同時NVIDIA也在Built網站上提供許多應用範例,降低使用者的進入門檻。
在安全性方面,NVIDIA提供便於管理的OpenShell執行環境,它採用正向表列的權限管理方式,預設會封鎖所有AI代理的操作,需要使用這個確認才能開放權限,將安全性綁定於執行環境而非AI模型或應用程式本身,帶來更可控的資安防護。
另一方面Microsoft也推出MXC容器(Microsoft eXecution Containers,微軟執行容器),建立作業系統層級的隔離式沙盒,並讓AI代理在隔離式沙盒環境中運作,以利管理檔案、App、網路資源的存取權限與管理策略,並提供更強的資安防護與監測。











活用家中每1塊GPU
NVIDIA也推出適合應用於家庭區域網路環境的Pair路由功能,支援Windows、Linux、macOS等作業系統,並在推出時即援Ollama與LM Studio等運算框架,能夠將AI運算負載分配到區域網路中的DGX Spark、RTX Spark、搭載GeForce RTX顯示卡或顯示晶片的Windows電腦、macOS裝置等節點,達到分散式運算與靈活調度資源的效果,並確保資料皆在本機端或區域網路中交換,避免隱私或機敏資料外流。
在運作過程中,PAIR會將所有的AI推論運算負載分配至區域網路中的閒置節點,且不受節點作業系統限制,舉例來說可以在Windows電腦上將Ollama大型語言模型框架產生的負載轉移至Linux作業系統的DGX Spark上運算,達到充分利用運算資源的目地。需要注意的是,它只能將多個工作分配給不同裝置,無法將單一工作拆分為多個部分進行分配。



▲從Pair的運作展示影片可以看到,多個不同的運算負載被分配到3個節點分頭運算。
筆者將在下篇文章中繼續介紹RTX Spark的創作相關功能,後續也預計進行代理式AI的實測,請讀者參考系列文章目錄繼續閱讀。
請注意!留言要自負法律責任,相關案例層出不窮,請慎重發文!