超低功耗晶片NDP200能耗只有 Arm 的百分之一!1毫瓦就能玩《Doom》

超低功耗晶片NDP200能耗只有 Arm 的百分之一!1毫瓦就能玩《Doom》

ADVERTISEMENT

最近,美國人工智慧晶片初創公司 Syntiant 公佈了一款超低功耗晶片,可以在 1mW 的功耗下玩《毀滅戰士》。 

一個 1 毫瓦的機器學習晶片可以做很多事情,不過像玩《毀滅戰士》(Doom)這樣充滿想像力的做法卻很少見。 

最近幾日,在舊金山舉行的 2023 IEEE ISSCC(International Solid State Circuits Conference)大會上,總部位於加州歐文的 AI 晶片初創公司 Syntiant 詳細介紹了他們的產品  NDP200—— 一款超低功耗晶片,主要用來運行監控影片的神經網路,並在發現重要事件時喚醒其他系統。 

如下為 NDP200(Neural Decision Processor)玩《毀滅戰士》的展示影片。 

 

如何做到的呢? 

Syntiant 使用了基於 Doom 的 AI 研究平臺 VizDoom,這在 AI 研究中很受歡迎。團隊使用強化學習來訓練多層神經網路,其中第一層負責理解網路看到的內容,而最後一層負責採取回應行動。整體來說,這個網路由大約 60 萬個參數組成。雖然沒有 ChatGPT 所需的億級規模參數,但仍然要比監聽「OK, Google」這類關鍵短語所需的 10000 個參數強大得多。NDP200 有 640 kilobytes 的板載記憶體用於神經網路參數。

圖源:https://www.syntiant.com/ndp200

 

如上展示的片段中的遊戲關卡叫做「保衛圓圈」,它讓玩家在一個圓形房間內移動,射擊面前的怪物。IEEE Fellow、前 Syntiant 高級工程師副總裁 David Garrett 表示,在訓練中,神經網路必須首先辨識怪物,然後學習射擊它們。在第一次殺死獵物後,系統會卸載 clip(可以理解為一種檔案類型),但後來發現這不是一個好辦法。因此,系統很快就學會了節省彈藥。 

儘管《毀滅戰士》的示範非常精彩,但 NDP200 還有更多實際用途。Garrett 指出,它有能力進行人體輪廓檢測,這是一項通常由更強大的處理器完成的關鍵任務。Syntiant 晶片可以運行人體檢測,作為家庭或汽車安全系統的節能步驟。 

為了展示其能源效率,Syntiant 將 NDP200 與基於 Arm Cortex A53 的處理器進行了比較,該處理器運行了 20 萬個參數版本的 MobileNetV1,這是 MLPerf 用來判斷系統對視覺喚醒詞回應情況的測試。NDP200 每次掃描圖像只使用 166 微焦耳,大約是 Arm 處理器的 1/100。因此,Syntiant 晶片每秒可以掃描 6 格影片,而耗電量為 1 毫瓦。 

這款晶片並沒有那麼神秘,它有一條定制的路徑,資料在晶片的神經決策處理器中流動。據 Garett 介紹,它盡可能充分利用了晶片的乘法累加單元,即機器學習計算的核心,將高達每秒 9 gigabytes 的資料頻寬傳輸到神經核心。 

Garrett 不願透露 Syntiant 下一步的技術發展,但他表示會有更多有趣的應用。他說:50 萬個參數足夠做出真正的好東西了。

資料來源:

bigdatadigest
作者

大數據文摘(bigdatadigest)成立於2013年7月,專注數據領域資訊、案例、技術,在多家具有影響力的網站、雜誌設有專欄,致力於打造精準數據分析社群。

使用 Facebook 留言
發表回應
謹慎發言,尊重彼此。按此展開留言規則