算力不夠，USB 來湊！華碩推出首款 40 TOPS 算力 UGen 300 USB AI 加速器

華碩推出 UGen 300 的 USB AI 加速裝置，這是華碩首款採用 USB 介面的 AI 運算硬體。

什麼是 ASUS UGen300 USB AI 加速器？

UGen 300 的核心功能在於補強主機原有的中央處理器（CPU）或神經處理單元（NPU），當裝置端需要執行生成式 AI 推論時，UGen 300 可以在本地端處理文字產生、視訊摘要、事件觸發、語音轉行動指令以及即時感知等任務，相較於將資料傳送到雲端伺服器處理，UGen 300 讓運算程序完全在本地設備執行，免除了支付雲端運算訂閱費用的需求，也能在無網路環境下維持運算，同時減少資料傳輸過程中可能產生的資安風險或延遲問題。

UGen 300 內部搭載 Hailo-10H AI 處理器，主要針對大型語言模型（LLM）與視覺語言模型（VLM）提供運算支援，具備 40 TOPS 的算力，並配置 8GB LPDDR4 專用記憶體，使用者透過 USB-C 介面即可連接至不同電腦或嵌入式設備，在一般的運作負載下， UGen 300 的功耗維持在 2.5W 左右，對於電力需求相對較低。

硬體設計方面，UGen 300 支援熱插拔功能，讓使用者在不同環境切換時不需重新開機即可更換連接裝置，相容性部分，UGen 300 同時支援 Windows、Linux 以及 Android 等主流作業系統，其中 Windows 版本的驅動程式預計於 5 月中旬提供，而 Android 版本目前主要針對 B2B 客戶開放，軟體架構則可對接 TensorFlow、PyTorch 與 ONNX 等常見的 AI 開發框架，讓開發人員能在現有的開發流程中導入 UGen 300 進行運算加速。

針對運算穩定性的需求，UGen 300 特別內建了 8GB 的專用記憶體，一般的系統 NPU 通常會與 CPU 共享系統記憶體，在執行繁重任務時可能會造成頻寬競爭，導致系統效能下降。UGen 300 的獨立記憶體配置使其在執行大型模型運算時，能夠減少對主機系統資源的佔用，讓電腦在處理 AI 工作的同時，仍能維持其他一般軟體的順暢運作，對於需要穩定處理量的開發環境或專業應用場景，這種獨立運算資源的配置方式能提供較明確的效能預期。

在連接與後續支援方面，UGen 300 使用 USB 3.1 Gen 2 Type-C 介面，並以可攜式設計為核心，方便教育工作者或嵌入式系統供應商在不同場景中快速部署算力，華碩預計隨後推出 UGen Utility 工具軟體，屆時將提供超過 100 種經過預先訓練的模型，協助使用者縮短模型驗證與研發的時間。此外，使用者也可以透過 Hailo 開發者社群取得相關的教學課程與參考設計資訊。目前 UGen 300 的官方建議售價為新台幣 6,380 元。