FB 建議貼文

選取貼文複製成功(包含文章連結)!

Microsoft Build:透過Windows ML與NVIDIA NIM簡化於Windows電腦執行AI應用程式

Microsoft Build:透過Windows ML與NVIDIA NIM簡化於Windows電腦執行AI應用程式

ADVERTISEMENT

在Computex台北國際電腦展2025的同一時間,Microsoft也在舉行Build開發者大會,Microsoft與NVIDIA雙方皆提到透過Windows ML強化於Windows電腦的AI使用體驗。

Windows ML支援多樣運算單元

Microsoft於Build開發者大會宣佈多項Windows平台的新功能(詳見官方Blog),其中Windows AI Found平台提供模型選擇、最佳化、微調、跨客戶端和雲端部署等涵蓋AI開發完整生命週期所需的功能,並整合Foundry Local以及Ollama、NVIDIA NIM等多種AI模型,並可搭配Windows ML API(應用程式介面)在執行AI推論運算的時候,使用包括AMD、Intel、NVIDIA、Qualcomm等廠商在內的CPU(處理器)、GPU(繪圖處理器)、NPU(神經處理器)等運算單元,在本機端執行效能最佳化的AI運算。

延伸閱讀:微軟推出 Windows AI Foundry,加速本地人工智慧應用開發
【COMPUTEX 2025】NVIDIA發表AI PC軟體堆疊,透過TensorRT帶來最高2倍運算效能

NVIDIA執行長黃仁勳也在5月21日上午舉行的媒體與分析師訪談中,在回應AI PC相關問題時,特別強到Windows ML能夠讓AI應用程式調用NVIDIA GeForce RTX的運算資源,因此無論是搭載行動版GeForce RTX顯示晶片的筆記型電腦,或是安裝GeForce RTX顯示卡的桌上型電腦,都可以成為AI效能卓越的AI PC。

以在Computex期間正式推出的GeForce RTX 5060 Laptop顯示晶片為例,其AI運算效能高達572 TOPS,遠遠高於Windows Copilot PC要求的40 TOPS。

Microsoft推出的Windows ML為對應AI運算的API,能使用AMD、Intel、NVIDIA、Qualcomm等廠商在內的CPU、GPU、NPU等運算單元在本機端執行效能最佳化的AI運算。

黃仁勳在Computex CEO主題演說正式發表的GeForce RTX 5060 Laptop顯示晶片能為筆記型電腦帶來572 TOPS的AI運算效能,遠高於Windows Copilot PC要求的40 TOPS。

黃仁勳也在訪談中特別指出Windows ML能夠簡化調用NVIDIA GeForce RTX的運算資源的流程,改善AI應用程式的使用體驗。

NIM簡化AI應用程式部署

NVIDIA也在Computex期間發表Windows AI PC軟體堆疊,能夠透過NIM微服務與Blueprint工作流程簡化AI應用程式部署的手續。

以NVIDIA於Computex期間舉辦的GTC Taiwan活動中所提供的3D引導AI圖像生成(3D-Guided Generative AI)動態展示為例,使用者可以從NVIDIA Build網站下載工作流程,並在Windows平台上安裝需要的程式與相依套件,就可以使用3D建模軟體繪製參考圖片,然後透過FLUX.1圖像生成模型產生指定的圖像。

這個工作流程不但能夠簡化程式安裝、AI模型部署的操作手續,也能在AI應用程式的執行過程調用TensorRT與CUDA等加速API,帶來更高的運作效能。

NVIDIA提供豐富的AI PC軟體堆疊,在Windows作業系統環境除了透過Windows ML以外,也能透過CUDA、TenosrRT等私有函數庫等加速AI運算。

NIM微服務能將AI應用程式所需的套件打包與最佳化,簡化部署手續。

NVIDIA也在GTC Taiwan活動展示多種AI應用程式,圖為3D引導AI圖像生成。

▲3D引導AI圖像生成的詳細情況可以參考官方影片,這個功能可以讓使用者準確指定生成的圖像內容。

Windows ML的優勢在於能夠支援目前4大廠商所生產的處理器(包含Arm架構的Qualcomm處理器),能夠簡化AI應用程式的開發與使用,透過降低使用門檻的方式推動AI普及。

國寶大師 李文恩
作者

電腦王特約作者,專門負責硬派內容,從處理器、主機板到開發板、零組件,尖端科技都一手包辦,最近的研究計畫則包括Windows 98復活與AI圖像生成。

使用 Facebook 留言
發表回應
謹慎發言,尊重彼此。按此展開留言規則