AI晶片電源效率大比拚:高通以 2:1 擊敗NVIDIA

AI晶片電源效率大比拚:高通以 2:1 擊敗NVIDIA

ADVERTISEMENT

人工智慧晶片是用於訓練和運行人工智慧模型的專用硬體,而高通和NVIDIA公司是目前兩家領先的人工智慧晶片製造商,在週三公佈的一組新的測試資料中,高通的人工智慧晶片在三個衡量電源效率的指標中以 2 比 1 擊敗了NVIDIA。

據瞭解,人工智慧模型需要用大量的資料進行訓練,以提高其精準性和性能。訓練完成後,人工智慧模型就可以用於推理,即執行一些具體的任務,比如根據輸入生成文字回覆,或者判斷一張圖片是否包含貓。推理是人工智慧技術在產品中廣泛應用的環節,但也會增加企業的成本,其中一個主要成本就是電力。

目前,NVIDIA毫無疑問地主宰了AI訓練模型市場,是最大的硬體贏家。不過,AI應用還有很多其它的部分,也不會給NVIDIA全拿走。尤其是在耗能上,Google等企業也在探索如何降低額外成本。

在這些主要成本中,其中之一是電力。高通利用其在為手機等低功耗裝置設計晶片的經驗,推出了一款專為雲端和邊緣端提供高性能、低功耗人工智慧處理的晶片,名為 Cloud AI 100。

該晶片在週三公佈的由 MLCommons(一個維護人工智慧晶片行業測試標準的工程聯盟)發表的測試資料中,在兩項功率效率指標上擊敗了NVIDIA的旗艦晶片 H100。

AI晶片電源效率大比拚:高通以 2:1 擊敗NVIDIA

功率效率指標是指每瓦特電力可以執行多少次伺服器查詢。高通的 Cloud AI 100 在圖像分類方面達到了 227.4 次查詢每瓦特,而NVIDIA的 H100 隻有 108.4 次查詢每瓦特,圖像分類可以用於識別圖片中的物體或場景。高通還在物體檢測方面領先於NVIDIA,分別達到了 3.8 次查詢每瓦特和 2.4 次查詢每瓦特。物體檢測可以用於分析零售店的監控視訊,瞭解顧客最常去哪些地方。

然而,在自然語言處理方面,NVIDIA卻佔據了絕對優勢,無論是在性能還是功率效率方面都排名第一。自然語言處理是人工智慧技術中最廣泛應用於聊天機器人等系統的技術,NVIDIA達到了 10.8 次查詢每瓦特,而高通排名第二,為 8.9 次查詢每瓦特。

高通和NVIDIA都希望透過提供高效的人工智慧晶片來搶佔資料中心市場的占有率。隨著越來越多的企業將人工智慧技術融入他們的產品中,這個市場預計將快速增長。

cnBeta
作者

cnBeta.COM(被網友簡稱為CB、cβ),官方自我定位「中文業界資訊站」,是一個提供IT相關新聞資訊、技術文章和評論的中文網站。其主要特色為遊客的匿名評論及線上互動,形成獨特的社群文化。

使用 Facebook 留言
發表回應
謹慎發言,尊重彼此。按此展開留言規則