FB 建議貼文

選取貼文複製成功(包含文章連結)!

NVIDIA RTX Spark AI功能分析:為Windows筆電獻上代理式AI體驗、透過Pair串連全家AI PC

NVIDIA RTX Spark AI功能分析:為Windows筆電獻上代理式AI體驗、透過Pair串連全家AI PC

ADVERTISEMENT

NVIDIA推出的RTX Spark平台最大的特色就是支援Windows 11作業系統與應用程式,讓創作者與開發者能夠享受GPU加速的Windows生態系體驗。

NVIDIA搶灘Windows代理式AI方案

代理式AI除了需要效能較高的GPU(繪圖處理器)、NPU(神經處理器)以滿足AI運算的需求之外,也需要核心數量較多的CPU(處理器)以利AI代理主動操作各種傳統應用程式,此外因為可能會同時執行多款參數量較高的AI麼型,對記憶體容量的需求也會比較高。

先前NVIDIA推出的DGX Spark平台能夠滿足上述要件,然而它目前只支援Linux作業系統,AMD則是透過代號為Strix Halo的Ryzen AI Max+ 395等處理器,藉著x86架構CPU、規模更大的內建GPU、支援128 GB記憶體等特色,搶先將代理式AI體驗帶到Windows生態系。

延伸閱讀:
RTX Spark Editor’s Day系列文章目錄
CES2025:NVIDIA Project DIGITS迷你AI工作站拆解,內部GB10 Superchip實體搶先看
【GIGABYTE AI TOP ATOM動手玩(1)】:NVIDIA DGX Spark迷你AI工作站規格分析
AMD更新驅動程式,Ryzen AI Max+ 395處理器於本機執行128B參數大型語言模型

而RTX Spark平台採用與DGX Spark的GB10 SoC,同樣最高支援128 GB記憶體,主要的差別在於由Linux遷移至Windows 11作業系統,讓熟悉Windows生態系遊戲、創作、生產力等軟體的使用者能夠在既有基礎上添加豐富的代理式與生成式AI體驗。

NVIDIA與Microsoft也合作透過Windows Get Started、Easy Local Setup等程式引導使用者快速安裝多種AI軟體,同時NVIDIA也在Built網站上提供許多應用範例,降低使用者的進入門檻。

在安全性方面,NVIDIA提供便於管理的OpenShell執行環境,它採用正向表列的權限管理方式,預設會封鎖所有AI代理的操作,需要使用這個確認才能開放權限,將安全性綁定於執行環境而非AI模型或應用程式本身,帶來更可控的資安防護。

另一方面Microsoft也推出MXC容器(Microsoft eXecution Containers,微軟執行容器),建立作業系統層級的隔離式沙盒,並讓AI代理在隔離式沙盒環境中運作,以利管理檔案、App、網路資源的存取權限與管理策略,並提供更強的資安防護與監測。

NVIDIA本機AI與遊戲平台副總裁Jason Paul在RTX Spark Editor’s Day活動中說明RTX Spark平台的AI功能。

NVIDIA表示代理式AI是未來個人電腦的新支柱,它能在安全的沙盒環境中進行「感知、推裡、行動、評斷」等工作,並透過技能(Skill)與外部工具自動執行更多元的工作。

RTX Spark平台透過強大的硬體效能搭配Nemotron 3.5 Bolt本地端模型,以及搭配NeMo Switchyard、Pair等雲端、區域網路分散式AI運算,能夠達成操作圖中右側多種應用程式的能力。

RTX Spark平台的代理式AI能夠支援多款生產力、多媒體創作、程式開發、工具程式,以及NVIDIA自家的App。

RTX Spark平台也支援Github Copilot、Hermes、OpenClaw、Perplexity、Pi、WorkBuddy等多款代理式AI框架,可串連本機AI與應用程式,並提供安全沙盒環境,部分框架還支援雲端混合運算方式。

NVIDIA與Microsoft合作簡化在Windows作業系統中安裝代理式AI功能的流程,可以透過Windows Get Started、Easy Local Setup等程式快速安裝,也可以在NVIDIA Built網站上找到許多應用範例。

AI代理能夠透過MCP(Model Context Protocol,模型上下文協定)自動操作多種生產力、多媒體創作、程式開發、遊戲等應用軟體,協助使用者提升生產力,並帶來更豐富的遊戲體驗。

RTX Spark最高支援容量達128 GB的統一架構記憶體,能夠於本機執行代理式AI,具有資安隱私、快速反應、常時可用、無限用量等特色。

2026年4月時雲端資料中心透過Claude Sonnet 4.7 Max模型在Artificial Analysis Intelligence Index測試取得41分。到了現在Claude Sonnet 5.5 Medium可以得到同樣分數,而在本機端執行的Qwen 3.8-Flash-Next則可取得接近的40分。在同樣每月輸出6,100萬組Token(字詞)的情況下,Claude Sonnet 5.5 Medium雲端服務將產生美金1200元的API費用(約合新台幣39,500元),而RTX Spark平台的成本為美金20元的電費(約合新台幣658元)。

NeMo Switchyard是款混合雲端與本機的函數庫,能夠自動判別本機大語言模型的推論品質,若通過即採用結果以節省費用,若不通過則將需求上傳至雲端處理,雖然會產生Token使用費,但可以得到更精準的結果。

NVIDIA OpenShell執行環境搭配MXC容器(Microsoft eXecution Containers,微軟執行容器)能夠讓代理式AI在作業系統層級的隔離式沙盒環境運作,以利管理檔案、App、網路資源的存取權限與管理策略,並提供更強的資安防護與監測。

活用家中每1塊GPU

NVIDIA也推出適合應用於家庭區域網路環境的Pair路由功能,支援Windows、Linux、macOS等作業系統,並在推出時即援Ollama與LM Studio等運算框架,能夠將AI運算負載分配到區域網路中的DGX Spark、RTX Spark、搭載GeForce RTX顯示卡或顯示晶片的Windows電腦、macOS裝置等節點,達到分散式運算與靈活調度資源的效果,並確保資料皆在本機端或區域網路中交換,避免隱私或機敏資料外流。

在運作過程中,PAIR會將所有的AI推論運算負載分配至區域網路中的閒置節點,且不受節點作業系統限制,舉例來說可以在Windows電腦上將Ollama大型語言模型框架產生的負載轉移至Linux作業系統的DGX Spark上運算,達到充分利用運算資源的目地。需要注意的是,它只能將多個工作分配給不同裝置,無法將單一工作拆分為多個部分進行分配。

NVIDIA Pair路由功能能夠整合家庭區域網路中的各種桌上型電腦、筆記型電腦、DGX Spark、RTX Spark裝置,將AI運算工作分配至適合的顯示卡、獨立顯示晶片等單元上進行運算。

在RTX Spark Editor’s Day活動現場, Jason Paul以動態方式展示Pair功能。當區域網路中的任何1台電腦發出工作需求後,系統會自動將負擔分配至最適合的節點完成運算並回傳結果,如此一來能夠活用家中每台電腦內的顯示卡、獨立顯示晶片等運算單元。

當運算負載產生後,系統會自動挑選最適合的節點接手運算工作。

▲從Pair的運作展示影片可以看到,多個不同的運算負載被分配到3個節點分頭運算。

筆者將在下篇文章中繼續介紹RTX Spark的創作相關功能,後續也預計進行代理式AI的實測,請讀者參考系列文章目錄繼續閱讀。

(回到RTX Spark Editor’s Day系列文章目錄)

國寶大師 李文恩
作者

電腦王特約作者,專門負責硬派內容,從處理器、主機板到開發板、零組件,尖端科技都一手包辦,最近的研究計畫則包括Windows 98復活與AI圖像生成。

發表回應
謹慎發言,尊重彼此。按此展開留言規則