NVIDIA說明Windows作業系統AI應用(上):強調高階AI功能優勢

NVIDIA說明Windows作業系統AI應用(上):強調高階AI功能優勢

ADVERTISEMENT

NVIDIA在AI on RTX技術與應用分享會說明了多項在搭載Windows作業系統個人電腦上的AI應用,並進行實際展示。

專注高於100 TOPS高階AI應用

身為AI軟、硬體技術大廠,NVIDIA自然也相當重視包含桌上型與筆記型等個人電腦的AI應用,雖然NVIDIA並不像AMD、Intel等廠商推出處理器搭配內建NPU(神經處理器)或內建GPU(繪圖處理器)的解決方案,但卻能透過效能更高的獨立顯示卡、獨立顯示晶片等GPU提供更豐富的應用。

NVIDIA將個人電腦粗分為AI運算效能介於10~45 TOPS(Int8資料類型)、由NPU與內建GPU驅動的基本AI電腦(Basic AI PC),以及效能介於100~1300 TOPS(Int8、FP8資料類型)、搭載獨立GPU的高階AI電腦(Permium AI PC)。

雖然NVIDIA並沒有點名「基本」與「高階」AI電腦的規格與型號,但我們仍可明確推斷,基本AI電腦指的是搭載AMD Ryzen 704080408000G等系列處理器,或是Intel Core Ultra 1系列處理器的電腦,而高階AI電腦自然就是搭載NVIDIA自家獨立顯示卡或獨立顯示晶片的桌上型與筆記型電腦。

這2種類型的電腦都具有在本機執行AI應用程式的能力,具有低延遲、不需連網或將資料上傳至雲端、無額外伺服器費用等優勢,而高階AI電腦則進一步能夠執行規模更大的AI模型(有助於提供更精確、理想的回應與結果),並執行更複雜的AI應用程式以提升使用者體驗與工作效率,並可在更短的時間內完成相同的運算負載。

NVIDIA也補充了NPU的優勢,那就是它們雖然效能不如獨立GPU,但具有更高的電力效率,更適合常時間於背景持續運作,尤其對藉由電池運作的筆記型電腦來說更加重要。

至於例如複雜的AI圖像生成、AI模型訓練、執行超大規模AI模型等運算負載更高的需求,則建議使用AI運算效能可達數千TOPS且具有擴充性(Scalable)的雲端GPU完成。

NVIDIA在說明會整理許多自家在Windows作業系統上提供的AI應用程式與功能,由NVIDIA技術行銷經理蘇家興進行介紹。

使用者能在Windows作業系統下直接享受DLSS、AI圖像生成加速、影片頻、視訊會議強化等功能帶來的效能提升與便利性。

NVIDIA以效能將電腦分為基本AI電腦、高階AI電腦(Permium AI PC),以及重度AI雲端伺服器。

個人電腦部分,基本AI電腦的條件為AI運算效能介於10~45 TOPS(Int8資料類型)、由NPU與內建GPU驅動的,高階AI電腦則為效能介於100~1300 TOPS(Int8、FP8資料類型)、搭載獨立GPU。

基本與高階AI電腦主要以AI運算效能區分,會造成執行AI應用程式功能與效能的落差。

強固AI生態系統

NVIDIA也在會中說明自己具有完整且強固的AI軟、硬體生態系統,能夠支援PyTorch、ONNX、TenosrFlow等常見的AI運算框架,有許多應用程式也支援NVIDIA自家的Tensor RT SDK與執行環境,目前已有超過125款應用程式、功能可以透過RTX系列顯示卡、顯示晶片加速,在照片編輯、影片編輯、直播、3D渲染等應用程式的數量上都位居第1。

此外NVIDIA也透過DLSS將超解析度(Super Resolution,即升頻)、畫格生成(Frame Generation)、光線重建(Ray Reconstruction)等AI功能應用於提升遊戲的畫質以及FPS效能。

AI運算的效能表現方面,NVIDIA也是獨佔鰲頭。根據NVIDIA提供的測試數據,搭載行動版GeForce RTX 4090的筆記型電腦在Stable Diffusion圖像生成的速度比搭載Apple Silicon M3 Max的MacBook Pro快了7倍。而在UL Procyon AI圖像生成測試部分,市場價格約為新台幣21,990元的GeForce RTX 4070 Super,表現就超出價格達新台幣35,990元的AMD Radeon RX 7900 XTX。

至於影片編輯、大型語言模型部分,NVIDIA提供的解決方案也都具有更出色的效能表現,在視訊會議強化功能部分也有更理想的效果。詳細情況請參考下方圖表說明。

NVIDIA已經提供超過500款AI遊戲功能(如DLSS)、AI應用程式功能,並具有完整的軟、硬體堆疊。

搭載NVIDIA獨立顯示晶片的筆記型電腦在AI圖像生成、3D渲染、AI影片編輯、語音強化等功能都有更出色的效能表現。

目前已有超過125款應用程式、功能可以透過RTX系列顯示卡、顯示晶片加速,在照片編輯、影片編輯、直播、3D渲染等應用程式的數量上都位居第1。

NVIDIA顯示卡在UL Procyon AI圖像生成測試的表現領先競爭對手許多。

NVIDIA顯示卡、顯示晶片執行LLM的效能也相當凸出。

NVIDIA Boardcast視訊會議能提供更精準以的背景模糊功能,並可自行設定背景效果,眼神校正效果也更加理想。

NVIDIA也提供許多開發工具,並以更高的效能提升工作效率。

NVIDIA將持續強化高階AI電腦的效能與功能。

NVIDIA也在活動當天提供多樣AI應用與程式展示,筆者將會在下篇文章中繼續介紹。

國寶大師 李文恩
作者

電腦王特約作者,專門負責硬派內容,從處理器、主機板到開發板、零組件,尖端科技都一手包辦,最近的研究計畫則包括Windows 98復活與AI圖像生成。

使用 Facebook 留言
發表回應
謹慎發言,尊重彼此。按此展開留言規則