2025.05.22 11:10

Microsoft Build:透過Windows ML與NVIDIA NIM簡化於Windows電腦執行AI應用程式

ADVERTISEMENT

在Computex台北國際電腦展2025的同一時間,Microsoft也在舉行Build開發者大會,Microsoft與NVIDIA雙方皆提到透過Windows ML強化於Windows電腦的AI使用體驗。

Windows ML支援多樣運算單元

Microsoft於Build開發者大會宣佈多項Windows平台的新功能(詳見官方Blog),其中Windows AI Found平台提供模型選擇、最佳化、微調、跨客戶端和雲端部署等涵蓋AI開發完整生命週期所需的功能,並整合Foundry Local以及Ollama、NVIDIA NIM等多種AI模型,並可搭配Windows ML API(應用程式介面)在執行AI推論運算的時候,使用包括AMD、Intel、NVIDIA、Qualcomm等廠商在內的CPU(處理器)、GPU(繪圖處理器)、NPU(神經處理器)等運算單元,在本機端執行效能最佳化的AI運算。

延伸閱讀:微軟推出 Windows AI Foundry,加速本地人工智慧應用開發
【COMPUTEX 2025】NVIDIA發表AI PC軟體堆疊,透過TensorRT帶來最高2倍運算效能

NVIDIA執行長黃仁勳也在5月21日上午舉行的媒體與分析師訪談中,在回應AI PC相關問題時,特別強到Windows ML能夠讓AI應用程式調用NVIDIA GeForce RTX的運算資源,因此無論是搭載行動版GeForce RTX顯示晶片的筆記型電腦,或是安裝GeForce RTX顯示卡的桌上型電腦,都可以成為AI效能卓越的AI PC。

ADVERTISEMENT

以在Computex期間正式推出的GeForce RTX 5060 Laptop顯示晶片為例,其AI運算效能高達572 TOPS,遠遠高於Windows Copilot PC要求的40 TOPS。

ADVERTISEMENT

NIM簡化AI應用程式部署

NVIDIA也在Computex期間發表Windows AI PC軟體堆疊,能夠透過NIM微服務與Blueprint工作流程簡化AI應用程式部署的手續。

以NVIDIA於Computex期間舉辦的GTC Taiwan活動中所提供的3D引導AI圖像生成(3D-Guided Generative AI)動態展示為例,使用者可以從NVIDIA Build網站下載工作流程,並在Windows平台上安裝需要的程式與相依套件,就可以使用3D建模軟體繪製參考圖片,然後透過FLUX.1圖像生成模型產生指定的圖像。

ADVERTISEMENT

這個工作流程不但能夠簡化程式安裝、AI模型部署的操作手續,也能在AI應用程式的執行過程調用TensorRT與CUDA等加速API,帶來更高的運作效能。

ADVERTISEMENT

▲3D引導AI圖像生成的詳細情況可以參考官方影片,這個功能可以讓使用者準確指定生成的圖像內容。

Windows ML的優勢在於能夠支援目前4大廠商所生產的處理器(包含Arm架構的Qualcomm處理器),能夠簡化AI應用程式的開發與使用,透過降低使用門檻的方式推動AI普及。

ADVERTISEMENT