FB 建議貼文

選取貼文複製成功(包含文章連結)!

微軟推出 Windows AI Foundry,加速本地人工智慧應用開發

微軟推出 Windows AI Foundry,加速本地人工智慧應用開發

微軟正積極推動 Windows 成為本地人工智慧應用程式開發的首選平台。透過 Windows Copilot Runtime,微軟已開始支援在 Windows 上執行本地人工智慧應用,該執行環境透過 Windows AI API 和 Windows 機器學習 (ML) 提供各種 AI 功能。在 Copilot+ PC 上,Windows Copilot Runtime 背後的模型在本地後台持續運作,為使用者提供即時且高效的 AI 體驗。

在 Build 2025 大會上,微軟宣布推出 Windows AI Foundry,這是一個在 Windows 上進行本地 AI 開發的統一平台,旨在整合 Windows Copilot Runtime 和多項創新功能。Windows AI Foundry 將提供由內建 AI 模型支援的即時 AI API,讓開發者能夠輕鬆地將 AI 功能整合到他們的應用程式中。此外,它還提供自訂 Windows 內建模型的工具,使開發者能夠根據自身需求調整模型,以達到最佳效能。

微軟推出 Windows AI Foundry,加速本地人工智慧應用開發

Windows AI Foundry 的另一項重要功能是能夠從 Azure AI Foundry 匯入開源模型,並提供一個推理執行環境,方便開發者匯入自己的模型。這意味著開發者可以自由選擇最適合其應用程式需求的 AI 模型,並在 Windows 環境中無縫部署和執行。

由於應用程式開發人員通常需要依賴來自不同供應商的各種 AI 模型,Windows AI Foundry 將整合來自 Azure Foundry Local 的 AI 模型,甚至整合來自 Ollama 和 NVIDIA 等其他模型庫的 AI 模型。微軟自有的 Foundry Local 模型目錄將包含經過最佳化的 AI 模型,這些模型可跨 CPU、GPU 和 NPU 運作,確保在各種硬體配置上都能實現最佳效能。開發者可以使用 "winget install Microsoft.FoundryLocal" 命令,根據設備相容性瀏覽、下載和測試模型。選定模型後,開發者可以使用 Foundry Local SDK 輕鬆地將 Foundry Local 整合到他們的應用中。

Windows ML 是 Windows 內建的 AI 推理執行環境,支援在 CPU、GPU 和 NPU 之間簡化高效的模型部署。它基於 DirectML,支援 AMD、Intel、NVIDIA、高通等多家供應商的晶片。基於 Windows ML 建構的應用程式開發人員不必擔心未來的晶片更新,因為 Windows ML 將能夠使所有必需的依賴項保持最新狀態,並能夠適應新的晶片。

微軟還宣布將支援 LoRA 技術用於 Phi Silica 模型。LoRA 支援使用自訂資料對模型參數的一小部分進行微調。這種高效的微調將提升某些類型任務的性能。LoRA 目前已在驍龍 X 系列 NPU 上的 Windows App SDK 1.8 Experimental 2 中提供公開預覽版,並將在未來幾個月內應用於英特爾和 AMD Copilot+ PC。

此外,微軟還推出了全新的語義搜尋 API,助力開發者利用其應用資料打造 AI 賦能的搜尋體驗。這款 AI 賦能的搜尋功能可在本地運作,並支援 RAG(檢索增強產生)。這些語義搜尋 API 現已在所有 Copilot+ 電腦上以私人預覽版形式提供。

 

 

janus
作者

PC home雜誌、T客邦產業編輯,曾為多家科技雜誌撰寫專題文章,主要負責作業系統、軟體、電商、資安、A以及大數據、IT領域的取材以及報導,以及軟體相關教學報導。

使用 Facebook 留言
發表回應
謹慎發言,尊重彼此。按此展開留言規則