NVIDIA公布更多MLPerf效能測試數據,透過軟體最佳化提升效能高達6.5倍

NVIDIA公布更多MLPerf效能測試數據,透過軟體最佳化提升效能高達6.5倍

ADVERTISEMENT

 

繼先前NVIDIA發表MLPerf V1.0效能驗證成果之後,這次他們提供更多與競爭產品對照的效能測試數據,並表示透過在2.5年內持續透過最佳化方式,最高提升效能高達6.5倍。

連台積電都採用的測試基準

MLPerf是由學術界、研究實驗室和業界共同組成的AI聯盟,目標為打造公平、實用的測試基準。其測試項目含

  1. RNN-T:語音辨識
  2. BERT:自然語言處理
  3. DLRM:推薦系統
  4. MiniGo:強化學習
  5. UNet-3D:醫學影像分析
  6. SSD:物體偵測(輕量型)
  7. Mask R-CNN:物體偵測(重量型)
  8. ResNet-50 v 1.5:圖像分類

等多種測試類別,以發揮為硬體、軟體和服務的AI訓練與推論提供客觀的效能評估。

TSMC(台積電)也導入MLPerf對機器學習運算效能進行評估,並表示機器學習能夠顯著提升光學接近校正(Optical Proximity Correction,OPC)與光刻模擬的準確度,除了與NVIDIA工程團對共同合作將麥斯威爾模擬(Maxwell Simulation)逆向光刻技術(Inverse Lithography Technology,ILT)等程式移植至GPU,也將MLPerf作為決策的重要依據。

根據NVIDIA提供的數據,自家的DGX SuperPOD超級電腦是唯一提交所有測試項目的系統,並在多項測試保持大幅領先,另一方面,NVIDIA也不斷透過軟體最佳化與系統整合,提升整體效能表現。

MLPerf由8種不同的測試項目構成。

TSMC也表示機器學習的至重要性,並導入MLPerf評估效能。

DGX SuperPOD能在多項測試大幅領先。(數據為AI訓練用時,越低越好)

將數據標準化後,可以看到NVIDIA能在單一晶片提供最佳綜合效能。

NVIDIA透過軟體最佳化與系統整合在過去1年提升效能最高達3.5倍。

若將時間拉長到2.5年,效能提升幅度最高達6.5倍。

關於更多MLPerf資訊,可以參考MLPerf組織官方網站

國寶大師 李文恩
作者

電腦王特約作者,專門負責硬派內容,從處理器、主機板到開發板、零組件,尖端科技都一手包辦,最近的研究計畫則包括Windows 98復活與AI圖像生成。

使用 Facebook 留言

發表回應

謹慎發言,尊重彼此。按此展開留言規則