AI資料中心利器，NVIDIA與VMware透過vGPU強化AI雲端運算效能表現

顯示卡廠商NVIDIA與虛擬機器廠商VMware於虛擬化和雲端算運會議VMworld上，分享了虛擬繪圖處理器（vGPU）與混合式雲端運算的使用範例，指出虛擬繪圖處理器不但在架設雲端運算與軟體定義資料中心（SDDC）時更具彈性，而且相較於只使用傳統處理器的環境能夠提升50倍AI運算效能。

AI成長延續摩爾定律

如同筆者在先前文章提到，Google觀察在半導體製程越來越精進之後，要進一步縮小電晶體的尺寸比以往更加困難，資訊產業為了追上摩爾定律（Moore's law，每隔2年積體電路上可容納的電晶體數目會增加1倍）所預測的發展趨勢，便逐漸將開發焦點轉移到硬體加速等特殊應用領域。

NVIDIA也做出了類似的觀察，他們認為摩爾定律的放緩，讓持需成長的運算需求無法透過更換最新的處理器得到滿足，因此導入特化運算加速單元勢在必行。同時NVIDIA也預測，到了2023年，將有40%的企業導入機器學習，而在2021年會有75%的企業會導入混合雲端運算架構。

NVIDIA不但將虛擬繪圖處理器（vGPU）技術推廣至AI、深度學習與資料科學等作業提供伺服器虛擬化技術，更可透過全新的vComputeServer軟體及NVIDIA繪圖處理器容器（NGC）部署在VMware vSphere等虛擬化環境中。

▲ 導入機器學習、混合雲端運算架構是企業未來的趨勢之一。

▲ 資料科學軟體RAPIDS支援CUDA加速，能在NVIDIA繪圖處理器環境中以更好的效能表現。

▲ 未來除了有在企業內部架設（On-Prem）本地端或雲端的資料中心之外，還會出現本地與雲端混合的資料中心。

▲ 虛擬繪圖處理器技術可以更靈活地分享、合併運算資源，對企業資源管理更有效率。

強化AWS AI運算服務

在美國時間8月26日舉行的VMworld大會上，NVIDIA與VMware宣布將針對VMware Cloud on AWS推出繪圖處理器加速服務，強化AI、機器學習與資料分析等企業應用服務，並可將各種VMware vSphere的應用與容器無縫轉移至雲端。

這項服務能幫助企業運用企業級混合雲平台加速推動應用現代化，從資料中心到AWS雲端平台皆以一致的VMware基礎設施整合部署、移轉與執行，以支援各種運算密集度最高的AI、機器學習、資料分析等作業。

此服務具有多項優勢，例如機房可進行無縫移轉，可以快速完成NVIDIA vComputeServer軟體與繪圖處理器加速作業的轉移，不會發生像使用Vmware HCX時遇到停機的問題。另一方面AWS基礎設施也具有相當的組織彈性，搭載 NVIDIA T4加速運算單元的VMware Cloud on AWS叢集具備自動化擴充能力，讓管理者能依據的需求擴充或縮減運算能量。

此外NVIDIA T4 GPU內建的Tensor Cores張量運算核心可以用來加速深度學習推論作業，再配合繪圖處理器虛擬化的vComputeServer軟體，企業即能有充裕的彈性執行各種加速AI、機器學習與資料分析等作業，協助企業將在混合雲環境中建立一致的基礎設施與操作模式，藉以改進安全、資源使用率與管理效能。

▲ 虛擬繪圖處理器技術讓虛擬機器上的應用程式也能使用繪圖處理器加速。