Arm發表Cortex-M55、Ethos-U55處理器,為IoT裝置帶來爆炸性效能提升 全球矽智財領導品牌Arm宣佈針對機器學習與人工智慧應用,推出Arm Cortex-M55處理器與Arm Ethos-U55神經網路處理器(NPU),能夠為微控制器帶來480倍機器學習理論效能提升,或50倍實際應用效能提升,同時提供完整的開發工具,強化低功耗物聯網與嵌入式裝置AI運算的能力。

效能與電力的拔河

Arm台灣總裁曾志光在新品發表會表示,在接下來的5G通訊世代中,超高頻寬、超低延遲、超大量連接的特色,會大幅改變終端裝置、物連網裝置以及AI裝置的樣貌。曾志光提到在甫結束的CES 2020拉斯維加斯消費性電子展中,主辦單位表示2020年時美國具有5G通訊功能的智慧型手機將佔有12%的市佔率,到了2022年此一數據將大幅成長至67%,這除了表示5G手機的普及之外,也代表5G基礎建設(如基地台)將日趨完善。

舉例來說我們的手機可以因為5G通訊的超高頻寬,用來播放4K甚至8K解析度的超高解析度串流影片,而效能有限的智慧型手機,也可以透過串流的方式播放由雲端伺服器負責運算的AR、VR內容,而車用電腦、車聯網也受益於超低延遲,而縮短偵測、預警危險的時間,提升行車安全,超大量連接能力也可滿足密集而大量的物聯網裝置連線的需求。

Arm的目標在於提供搭載AI功能的行動裝置、車聯網、物聯網裝置「負擔得起」(Affordable)的處理器,由於這類裝置的尺寸通常很小,因此成本大多比較低,而且也沒有充足的空間安裝大容量電池,因此而其中的負擔除了價格因素之外,電力消耗也是一大重點。所以壓低耗電量,以及提升效能,就是新處理器的2大要務。

曾志光在發表會中分享了許多對5G及AI應用的觀點。

小至穿戴裝置、智慧家電,大到工業應用、交通運輸都能看到AI的蹤影。

不同的AI裝置會有不同的效能需求,對小型裝置而言除了要顧及效能外,電力消耗也是一大考量。

新款處理器、NPU帶來效能革命

Arm應用工程總監徐達勇則在接下來的簡報中,介紹了全新的Cortex-M55處理器與Ethos-U55神經網路處理器,以滿足低功耗終端裝置的機器學習與人工智慧運算需求。

Cortex-M55是第一款採用Arm v8.1-M架構的處理器,並搭載Arm Helium技術Cortex-M向量延伸指令集(M-Profile Vector Extension,MVE,可以提供高效能與電力效率的向量運算能力,可以比前代Cortex-M提升5倍DSP(數位訊號處理)效能,與15倍機器學習效能。

Ethos-U55則是Arm第一個針對Cortex-M處理器推出的微型NPU神經網路處理器,得以搭配Cortex-M55、Cortex-M33、Cortex-M7、Cortex-M4等處理器使用,可以透過先進的壓縮技術,減少電力消耗並顯著地縮小機器學習模型尺寸,開發商也可依使用情境選擇搭配32、64、128、256組乘積累加運算(Multiply Accumulate,MAC,累加乘法結果的特殊運算單元),提升體積受限的嵌入式與物聯網裝置之機器學習運算能力。

(筆者註:徐達勇在會後問答中表示,技術上Ethos-U55可以透過共享匯流排(Shared Bus)搭配任何Cortex-M處理器使用,但基於綜合效能考量,所以推薦搭配上述處理器。)

徐達勇在會中說明了Cortex-M55與Ethos-U55特色與優勢。

Cortex-M55與前代產品相比,能提升5倍DSP效能與15倍機器學習效能。

Cortex-M55最大的特色就是採用Arm v8.1-M架構與搭載Helium向量延伸指令集。

Ethos-U55則是針對Cortex-M處理器推出的微型NPU神經網路處理器。

提升產品效能與開發速度

從Arm官方提供的理論數據來看,Cortex-M55可以提升15倍機器學習效能,而Ethos-U55則可提升32倍,2者結合後與現有的Cortex-M處理器相比,機器學習理論效能可以大幅提升480倍。但上述的數據畢竟只是理論值,與實際表現一定會有落差,對此Arm官方也提供了在實際環境中所測得的數據。

Arm選擇AI語音辨識進行測試,測試過程的運算需求包含語音偵測、消除噪音、雙麥克風波束成形、迴聲消除、等化器、混音、關鍵字偵測、OPUS解碼、自動語音識別等項目,單純使用Cortex-M55可以提升機器學習的推論速度6倍,並提升7倍電力效率,搭配Ethos-U55則能將上述數據分別提升至50倍與25倍,可見其效果十分顯著。

這些新產品除了能提升終端裝置的運算速度外,Arm也提供Corstone-300參考設計,以及TrustZone信任韌體(Trusted Firmware)、平台安全架構(Platform Security Architecture,PSA)等技術,提升裝置的安全性,並加快通過認證所需的手續,以增加產品上市的速度。

Arm也為了增加軟體開發的工作效率,提供了整合處理器、DSP、神經網路處理器的軟體開發環境,讓開發者可以在單一環境中,使用1套編譯器、1套除錯器完成工作,並不像過去要拆分為3項工作,並仰賴3套編譯器、3套除錯器,可以大幅降低工作複雜度,讓開發流程更加流暢。

Cortex-M55搭配Ethos-U55最高能提供480倍機器學習理論效能提升。

在實際應用情境中,也能有約50倍效能提升。

▲ Arm提供多種不同處理器選擇,能夠滿足各種機器學習、人工智慧運算需求。

整合式的軟體開發環境可以簡化並加速開發流程。

Arm也攜手晶片製造商、軟體商共同建構完整的生態系統。

Cortex-M55與Ethos-U55的智慧財產授權、軟體函數庫、開發工具現已開始供應,官方估計最快在2021年初就能看到實際搭載這些晶片的產品上市。

使用 Facebook 留言

發表回應

謹慎發言,尊重彼此。按此展開留言規則