FB 建議貼文

選取貼文複製成功(包含文章連結)!

ASUS TURBO Radeon AI PRO R9700 開箱實測:32GB VRAM 帶來高泛用性!本地端 LLM、AI Agent 與圖片生成皆能流暢運行的高性價比之選!

ASUS TURBO Radeon AI PRO R9700 開箱實測:32GB VRAM 帶來高泛用性!本地端 LLM、AI Agent 與圖片生成皆能流暢運行的高性價比之選!

因為資料隱私、雲端 AI 算力成本日漸高昂等儲多原因,再加上有愈來愈多能力強大的 AI 模型陸續推出開放版本,讓更多人開始關注「本地端 AI 部署」的可能性,包括大語言模型(LLM)、AI 代理(AI Agent)或本來就發展成熟的圖片、影片生成…等應用,都有相當豐富的軟體資源可以自由運用。


不過想要進入本地端 AI 部署的首要前提,就是「硬體夠不夠力」,而這也是為什麼近幾年高階 GPU 的價格持續水漲船高的主要原因。同時也因為 AI 模型的能力愈來愈強大,讓不少人發現到,真正限制使用體驗的往往不只是 GPU 算力,而是顯示記憶體容量(VRAM)是否足夠。不少主流顯示卡雖然算力表現不俗,但僅 8GB、12GB 或 16GB VRAM 的規格也讓模型的選擇受限,也可能因此必須依賴系統記憶體進行卸載,讓延遲增加,讓效率大受影響。


對於有重度本地端 AI 應用需求的使用者來說,擁有 32GB VRAM 以上的 GPU 會是一個重要的進入門檻,不過以市面上常見的 NVIDIA GeForce RTX 5090 GPU 來說,動輒 12 萬以上新台幣的售價(市售價,非 MSRP)讓不少人難以負擔,甚至即使有錢也不見得能買得到。相較之下,本篇文章要為大家帶來開箱實測的 ASUS TURBO Radeon AI PRO R9700 就是相對更易於入手的選擇-這款定位內容創作、專業工作與 AI 運算任務的繪圖卡內建多達 128 個 AI 加速器,擁有最高 1531 TOPS 的 AI 算力,更配置有 32GB GDDR6 VRAM,能滿足 300 億參數以上模型的運行需求,同時最大功耗在 300W 左右,對於需要持續開機運行的本地端 AI 主機來說也能兼顧電力成本。


本文開箱的主角是 ASUS TURBO Radeon AI PRO R9700 專業繪圖卡,最大的特色就是擁有 32GB VRAM 的規格,同時擁有相對易於入手的定價。


在接下來的文章中,我們將為大家帶來 ASUS TURBO Radeon AI PRO R9700 完整的開箱實測,同時也有本地端實際部署相關 AI 應用的測試心得要分享給大家!

 

產品外觀介紹

不同於一般常見遊戲取向的電競顯卡,定位專業用途的 ASUS TURBO Radeon AI PRO R9700 在外觀設計自然是「恰如其份」-外觀設計低調簡約,佔用 2 槽的體積大小相對更為緊湊,不過由於整卡由金屬材質外殼包覆,因此仍有一定的份量,重量不算輕,建議安裝時搭配顯示卡支撐架,比較不容易造成主機板 PCIe 插槽受損。


ASUS TURBO Radeon AI PRO R9700 本體設計符合其專業性定位,沒有花俏的設計元素或 RGB 燈效,採用一體式全包覆式設計,搭配了單一風扇來散熱。


雙滾珠軸承風扇,前側進風、後側出風的散熱設計。


PCIe 接口的金手指。


在散熱設計上,ASUS TURBO Radeon AI PRO R9700 採用單一風扇、前方進風後方出風的設計,在多卡串接時也能保有不錯的散熱效果。另外在卡身背面,對應 VRAM 的區塊也有額外設計波浪紋路的表層,進一步增加接觸面積,進一步強化熱源導出的效果。此外,ASUS TURBO Radeon AI PRO R9700 的電源接口採用 12V-2x6 規格的接口,並設計於顯示卡的尾端;在 I/O 配置方面,內建一組 HDMI 2.1b 埠與三組 DisplayPort 2.1a 埠,視訊輸出能力完備。


顯卡尾端的 12V-2x6 規格接口。


顯卡後側的設計也很樸素,有兩個波浪紋路的區塊。


波浪紋路的區塊對應了內部的 VRAM 元件,增加空氣接觸面積以獲得更好的散熱效果。


安裝支架採用更強化的 304 不鏽鋼材質,更堅固且耐腐蝕,這裡也搭配一組 HDMI 2.1b 埠與三組 DisplayPort 2.1a 埠共四組視訊輸出配置。

 

效能實測

此次搭配 ASUS TURBO Radeon AI PRO R9700 實測的平台是 ASUS ProArt 的創作者主機,搭配 AMD Ryzen 7-7700X 處理器、64GB DDR5 記憶體、1TB PCIe Gen4 x4 SSD,確保系統整體效能流暢,能與 GPU 完美搭配。


此次搭配實測的是 ASUS ProArt 創作者主機,胡桃木金屬的機身外殼搭配側透設計,質感讓人驚艷。

 

此次實測環境的詳細硬體規格詳列如下:

  • 顯示卡:ASUS TURBO Radeon AI PRO R9700
  • 處理器:AMD Ryzen 7-7700X
  • 主機板:ASUS ProArt X870E-CREATOR WIFI
  • 記憶體:T-CREAT 64GB DDR5-6000
  • 儲存:T-FORCE G70 Pro 1TB SSD
  • 作業系統:Windows 11 Home
  • 驅動程式:AMD Software: Adrenalin Edition 26.6.1

 

ASUS TURBO Radeon AI PRO R9700 實際上機安裝的樣子,尾端連接電源線的方式讓走線很順暢,看起來也十分清爽。

 

值得一提的是,針對 ASUS TURBO Radeon AI PRO R9700 的專業用途,AMD 在官網上也提供了兩種不同的版本的驅動程式,其中是一般的通用版本(Auto-Detec and Install),另一個是 AMD Adrenalin Editon,除了 GPU 的驅動功能,也額外提供了「AI 套件組合包」,包括 Amuse、ComfyUI、PyTorch、Ollama、VSCode 與 Python 套件,確保 AI 部署環境的需求。若是使用者會使用到 AI 圖片生成的應用功能,建議選擇安裝這個版本,以確保可以符合 AMD ROCm 環境需求,不需要擔心額外的相容性問題。


在 AMD 的官網可以找到適用於 ASUS TURBO Radeon AI PRO R9700 的驅動程式,而且同時提供了一般版與整合 AI 套件兩種版本。


AMD Adrenalin Editon 中額外加入了六個本地端 AI 部署會用到的元件,可以讓使用者選擇下載安裝。


透過 GPU-Z 查看 ASUS TURBO Radeon AI PRO R9700 的 GPU 詳細規格,雖然視訊記憶體採用的是 GDDR6 的規格,但不得不說 32GB 對於 AI 應用的助益非常大!


接下來就透過 UL Procyon 進行 AI 應用的相關實測,提供跑分結果如下。


UL Procyon 的圖片生成項目,Stable Diffusion 1.5 版本獲得 2848 分,圖片生成的速度為 2.194 秒。


UL Procyon 的圖片生成項目,Stable Diffusion 1.5 Light 版本獲得 25641 分,圖片生成的速度為 1.219 秒。


UL Procyon 的圖片生成項目,Stable Diffusion 1.5 XL 版本獲得 2254 分,圖片生成的速度為 16.634 秒。


UL Procyon 的 LLM 文字生成項目,PHI 3.5 獲得 2032 分,平均輸出效率為 144.29 Token/s;MISTRAL 7B 獲得 2181 分,平均輸出效率為 101.34 Token/s;LLAMA 3.1 獲得 2021 分,平均輸出效率為 88.91 Token/s;LLAMA 2 獲得 2234 分,平均輸出效率為 59.03 Token/s

 

本地端 LLM 實戰:透過 LM Studio 實測

除了效能跑分,為了進一步了解 ASUS TURBO Radeon AI PRO R9700 在實際應用面的表現如何,接下來就先安排 LLM 大型語言模型的部署與功能測試。這裡我們會使用 LM-Studio 作為部署平台,並實際測試載入 30B 以上模型,並以一系列的應用實例確認效能表現如何。


此次 LLM 本地端實測我們採用 LM Studio 這個套件。


透過 LM Studio,可以選擇目前已開放的各類型 LLM 模型,像是前一陣子 Google 釋出的 Gemma 4 也在其中。


我們這次實測採用的是阿里巴巴的 Qwen3.6-35Bb-a3b。


實測 Qwen3.6-35Bb-a3b,首先我們上傳一篇 12,280 字的英文論文,並要求流暢地翻譯成繁體中文,可順利完成任務,實測平均輸出可達 155.36 token/s。


上傳一篇 2058 字的新聞稿,要求摘要為三句話重點,並列出三個關鍵詞,可順利完成任務,實測平均輸出可達 156.86 token/s。


接下來檢核 LLM 對於事實內容查核的能力,提供主題「『中小企業不需要行銷自動化工具,因為太貴了』— 這個說法為什麼不完全正確?請從成本效益角度分析,並推薦 2-3 個適合小型團隊的工具」,可順利完成任務,實測平均輸出可達 158.81 token/s。


要求 LLM 進行程式開發,撰寫一個將資料夾下 CSV 資料整理並輸出成報導的程式,可順利完成任務,實測平均輸出可達 155.78 token/s。

 

AI Agent 串接本地端 LLM 實測

透過前面的本地端 LLM 實測可以發現到 ASUS TURBO Radeon AI PRO R9700 可以非常輕鬆駕馭 30B 以上的高參數模型,能力上十分優異。而今年十分火熱的 AI 代理(AI Agent)應用如 OpenClaw、Hermes Agent 也成受到許多人的關注,同時也有非常人關心到底本地端的 LLM 是否能夠透過串接成為 AI Agent 的「大腦」?


透過 LM-Studio 可以將載入的 LLM 運行成為本地端伺服器,作為 AI Agent 串接之用,這裡為了符合 AI Agent 實際效能需求,上下文長度我們設至為 262144 位元(256K),GPU 註冊層數開至最大的 40。


在 Hermes Agent 的官網可以下載到最新釋出的桌面版 App。


在啟動 Hermes Agent 桌面版並設定模型時,可選擇「Local / custom endpoint」,並填入剛才 LM-Studio 啟動的 LLM 伺服器位址與自定義的 API Key。


設置完成後,我們就可以在模型選單中找到設置好的 Qwen3.5-35b-A3b。


接下來我們就透過前面實測過的 Qwen 3.6-35B 模型整合近期新推出的 Hermes Agent 桌面版本,實測它是否能夠完成日常任務吧!


詢問 Hermes Agent 的基本功能,能夠正確回答。


以上傳附件方式要求翻譯文件,也能順利完成任務。


需要調用 skill 進行資料搜尋的任務,本地 LLM 串接 Hermes Agent 後也能正確完成任務。


比較複雜的 Github 指定專案調查、安裝與使用,本地 LLM 串接 Hermes Agent 也能正確完成,像是這個 Skill 會調用 Multi Agent 執行任務,整個過程耗時約 30 分鐘,Hermes Agent 也能完整走完所有的任務。

 

Stable Diffusion 圖像生成平台實測

除了 LLM 與 AI Agent 的應用,另一個熱門的本地端 AI 應用就是圖像生成,包括靜態圖片或是影片的生成。這裡我們透過許多人最常使用的 Web UI 部署 Stable Diffusion 的生成模型,嘗試設定不同尺寸的「文字生成圖像(TXT2IMG)」,實測圖片生成的效能表現。


此次實測我們使用的是 Stability Matrix 這個套件,除了安裝過程自動化,對於 AMD 顯示卡的支援也非常友好,在安裝時就會自動偵測硬體並提供套件的推薦。


選擇好套件後,接下來還可以透過直觀的介面來選擇符合自己風格喜好的模型。


安裝完成後,即可在 Packages 分頁中看到套件,點選 Lauch 就能啟動。


透過 Packages 功能,我們可以選擇其他的本地端 AI 套件,針對 AMD 顯卡的使用,只需要注意套件中有標示「ROCm」與「DirectML」的都能夠相容使用。


此次我們安裝的是 Stable Diffusion WebUI reForge,我們以預設參數,設定生成 512 x 512 px 的圖片並以解析度升級的方式擴增尺寸至 1024 x 1024 px。以寫實的女性人像特寫作為文字描述,6.7 秒即完成圖片的生成。


同樣預設參數,設定生成 512 x 512 px 的圖片並以解析度升級的方式擴增尺寸至 1024 x 1024 px,另一幅以賽博龐克風格的城市鳥瞰攝影為主題的圖片,7.1 秒完成生成。


同樣設定下,嘗試模仿畫家梵谷「星夜」風格的畫作,7 秒完成生成。


更換另一種美式漫畫風格,同樣設定下 7.1 秒完成生成。


接下來我們嘗試生成尺寸更大的圖片,以相同設定,原始尺寸設定為 1024 x 1024 px,並以解析度升級方式擴增為 2048 x 2048 px,生成攝影棚內寫實的女性肖像,花費時間 2 分 2.1 秒完成,且細節完整沒有錯誤。


同樣設定生成賽博龐克風格的城市鳥瞰攝影,花費時間 2 分 29.8 秒左右完成,同樣細節完整。

 

結語:入門 32GB VRAM GPU 的高性價比之選!成熟 AI 生態系支援,滿足本地端 AI 應用需求!

從前面的效能跑分與一系列本地端 AI 應用的實測,不難發現到 ASUS TURBO Radeon AI PRO R9700 的實際表現不俗,顯而易見的,這並不是一張強調 GPU 算力有多麼強大的顯示卡,更具價值性的地方在於內建高達 32GB 的 GDDR6 顯示記憶體,讓它的應用層面更廣,尤其是在 LLM 的支援上,面對 300 億參數等級的模型也能完美支援,而且實際運行的效能優異,無論是建立個人化的聊天機器人、整合 RAG 知識搜尋、建立自動化工作流或是串接 AI Agent …等應用,都擁有不錯的使用體驗。


當然,ASUS TURBO Radeon AI PRO R9700 相對平易近人的價格定位,也讓有本地端 AI 部署需求的使用者,能夠更易於入手,相較同樣 32GB VRAM 的 N 卡價格一半不到,讓更多人可以「無痛」進入本地端 AI 應用的領域。


對於想要嘗試本地端部署高參數大語言模型的使用者來說,擁有 32GB VRAM、價格相對平易近人的 ASUS TURBO Radeon AI PRO R9700 會是非常適合的選擇。


另外值得一提的是,在本地端 AI 應用環境生態方面,相較於過往絕大多數的應用工具都圍繞著 NVIDIA 的 CUDA 環境設計、優化,近幾年 AMD 在生態系的支援性已經愈來愈完備,尤其是 AMD ROCm 技術的導入,讓使用者可以避免將大量時間、心力花費在環境的優化設定,透過 AMD Adrenalin Editon 的驅動程式即可一併將 AI 套件完整安裝,即可支援絕大多數的主流工具。


也正因如此,ASUS TURBO Radeon AI PRO R9700 非常值得推薦給需求本地端 AI 應用,希望能夠運行能力更高的大型 LLM 的備者。

看更多資訊:https://www.asus.com/tw/motherboards-components/graphics-cards/turbo/turbo-ai-pro-r9700-32g/

Axiang Chin
作者

阿祥,本名秦庭祥(Axiang Chin),是一個專注於3C領域、尤其是行動通訊領域的部落客,自2004年10月開始經營部落格超過20年之久,長期關注3C產品資訊與應用,也有豐富的講師經驗。

發表回應
謹慎發言,尊重彼此。按此展開留言規則