Google在智慧型手機上率先推出領先AI功能,但它的Tensor晶片成為了致命傷

Google在智慧型手機上率先推出領先AI功能,但它的Tensor晶片成為了致命傷

ADVERTISEMENT

Google 在 2021 年推出了 Pixel 6 系列時引入了 Tensor 系列晶片。這些晶片的目的是為了推動一系列由 Google 專門定製,以配合其領先的基於人工智慧的軟體功能。然而,僅僅經過三代 Tensor 晶片,許多 Google 的新人工智慧功能卻需要轉移到雲端進行處理。

Google的 Pixel 智慧型手機一直處於機器學習和人工智慧應用的尖端,以提供獨特的使用體驗,這都是透過充分發揮Google在軟體方面的專業知識,創造出巧妙的演算法來完成的。最初的 Pixel 是第一款搭載 Google Assistant 的 Android 智慧型手機,同時也是第一款具備像鏡頭散焦和智慧型連拍等基於人工智慧的運算攝影功能的智慧型手機。每一代後續的手機都在這一基礎上不斷發展,一直到 Pixel 5,Google一直與高通合作,使用其 Snapdragon 晶片來驅動這些人工智慧和機器學習體驗。

然而,這一切在 2021 年 Pixel 6 和 Pixel 6 Pro 推出時發生了變化,這兩款手機首次搭載了Google的自家定製晶片——Google Tensor。當時,Google表示其目標是創建自己的晶片,以便能夠「...透過跟上機器學習的最新進展,為 Pixel 使用者提供全新的功能。」這暗示著,如果堅持使用高通的晶片,Google就無法實現其目標。具體來說:

與 Google Research 共同設計的 Google Tensor 讓我們深入了解機器學習模型的未來走向,而不僅僅是它們當前的狀態。這使我們能夠建立一個能夠跟上Google工作節奏的人工智慧/機器學習平台。

同時,Tensor 還突顯了該晶片如何啟用新的人工智慧功能,比如 Live Translate,可以「使用設備上的語音和翻譯模型處理視訊等媒體」。就最初的機器學習功能而言,Tensor 系列確實做到了。然而,如果 Google Tensor 系列晶片是專門為支援Google的人工智慧功能而創建的——既要跟上Google的人工智慧模型,又要在設備上支援它們,那麼事情似乎出現了一些問題。

開發領先市場的定製晶片是一項昂貴的事業。Apple決定投資於全定製的基於 Arm 架構的晶片可以追溯到史蒂芬·賈伯斯(Steve Jobs)時代,當時它收購了一些專門從事低功耗、高性能矽片設計的公司。Apple的第一個基於 Arm 的 Mac 原型也可以追溯到賈伯斯時代,有關其存在的傳聞首次出現在 2011 年,就在賈伯斯不幸因胰臟癌去世的前一年。同年,Apple的晶片團隊已經發展到至少 1,000 人。它還大力投資台積電,以確保優先獲得其最新的製造技術。簡而言之,Apple在自家定製矽片方面投資了數十億美元,因為這將實現其硬體和軟體之間無與倫比的協同作用。

Google也希望效仿Apple的方法,透過客製化晶片,使其更好地配合其領先市場的人工智慧軟體功能。然而,到目前為止,其努力並不像Apple的那樣雄心勃勃。前三代 Tensor 晶片被視為半定製設計,是與三星 LSI 共同設計和開發的,這是三星自家 Exynos 晶片背後的團隊。它們也是由三星代工製造。最初的 Tensor 的由來及其與三星 Exynos 晶片的密切關係是由當時為 Anandtech 撰稿的 Andrei Frumansu 確定的(Frumansu 現在已經發展得更為廣泛,目前是高通的首席工程師,致力於 Snapdragon X Elite 晶片的研發——因此他對晶片了解一二)。

儘管Apple多年來一直在開發全定製的基於 Arm 架構的 CPU,近年來還包括全定製的 GPU 核心,但Google的與三星共同設計和開發的 Tensor 晶片一直使用庫存的 Arm Cortex CPU 核心和 Arm Mali GPU 核心。然而,它們確實包含了完全定製的Google IP 區塊,包括 Tensor Processing Unit(TPU)、Titan M 安全晶片等 Frumansu 所述的其他定製 IP 區塊。這是基於Google在仍然使用高通 Snapdragon 晶片時開發的自家定製矽片 IP 的基礎,包括首次在 Pixel 2 上亮相的 Pixel Visual Core 和首次在 Pixel 3 上亮相的 Titan M 安全晶片。到目前為止,這一直是Google在所有 Tensor 晶片上堅持的方法——包括最初的 Tensor、Tensor G2 和最新的 Tensor G3。

根據最新的傳聞,Google一直在設計一款全定製的 Tensor,由這台積電的 3 奈米製程製造,而不是在三星的製程上——即使三星似乎正在贏回它在過去兩三年失去的一些客戶,Google似乎對這家韓國公司失去了耐心。不幸的是,對於 Pixel 的粉絲來說,這款晶片預計要等到 2025 年才會推出,這意味著我們可以預期Google目前與三星的合作將至少再推出一款更高版本的 Tensor 晶片。然而,初步跡象並不令人樂觀。就像 Tensor G2 只是對最初的 Tensor 進行了輕微升級一樣,Tensor G4 預計也只是針對 Tensor G3 進行輕微升級。對於Google來說,這可能是一個問題,因為 Tensor G3 不能按照最初的計劃在設備上處理Google最新的人工智慧演算法。

儘管 Tensor G3 進行了重大的架構升級,但在基準測試中的,其性能位於中階高通 Snapdragon 7+ Gen 2 和 Snapdragon 8+ Gen 1 之間。儘管性能足以使 Pixel 8 Pro 順暢運行系統 UI 和其他任務,但根據經驗,但在進行簡單任務,如下載APP和拍攝影片時,仍然很容易讓手機發燙。當手機在一般使用中變燙時,這反映了三星的 5 奈米和 4 奈米製程的晶片已知的效能不佳特性,包括用於製造 Tensor G3 的 4LPP 製程。Google試圖透過在 Pixel 8 Pro 上裝載大量石墨來掩蓋這些熱缺陷。同樣的低效率在許多標準化電池測試中也很明顯,這些測試通常顯示Pixel 8 Pro 遠遠落後於iPhone 15 Pro Max和Galaxy S23 Ultra這兩個主要競爭對手。 

Tensor G3 最大的問題可能是(正如我們最近強調的那樣),Google在 Pixel 8 Pro 發佈時宣傳的許多最新人工智慧功能無法在設備上處理。儘管Google在其官方部落格上將這款晶片定位為能夠在設備上實現這一點,但實際上許多最新的人工智慧功能都需要轉移到 Google Cloud 進行處理。儘管Google在推出時明確表示新的 Video Boost 功能是需要轉移到雲端進行處理的,但它並未明確指出哪些功能需要網路連接。唯一一個提示人工智慧處理被轉移到雲端的新功能是Google在小字中特別註明該功能「需要 Google 照片應用程式」。Tensor G3 不足以在設備上處理的新人工智慧功能包括搭載 Bard 的 Google 助手、Night Sight Video、Gboard 校對、Magic Editor、AI Wallpaper、Audio Magic Eraser 以及即將推出的更新到 Magic Eraser 的生成式人工智慧。

很明顯,僅僅三代 Tensor 晶片,就有有許多新的人工智慧功能轉移到 Google Cloud,Google Tensor 專案正處於危險之中。你可能還記皊,Google之所以不用Snapdragon晶片改用 Tensor 晶片是因為:

與 Google Research 共同設計 Google Tensor 讓我們深入了解 ML 模型的發展方向,而不是它們目前的狀況。這使我們能夠建立一個可以跟上我們在 Google 工作的 AI/ML 平台。

Tensor G3根本無法達到Google創建自家晶片的原始目的。據Google稱,晶片能夠在設備上處理人工智慧任務的好處包括:低延遲(因為處理在本地進行);隱私(因為使用者數據不會被轉移到遠端伺服器);以及改善的電池壽命(因為行動網路或Wi-Fi連接會消耗電源)。然而,透過將人工智慧任務轉移到雲端,Pixel 8 Pro上的延遲增加,隱私減少,每次使用者使用需要使用行動網路或Wi-Fi連接的新人工智慧功能時電池壽命都會受到影響。

在Tensor G3推出僅幾個星期後,高通就推出了強大的Snapdragon 8 Gen 3,高通沒有錯過向Google發出訊息的機會,強調了Snapdragon 8 Gen 3的設備上生成式人工智慧處理能力,稱其為「設備端智慧的巨人」。高通並沒有言過其實——Snapdragon 8 Gen 3是第一款能夠在設備上支援Stable Diffusion且擁有多達100億參數的大型人工智慧模型的行動SoC。

Snapdragon 8 Gen 3還暴露了Google聲稱「傳統性能指標」不重要的言論是一種謊言。Snapdragon 8 Gen 3擊敗Tensor G3的設備上人工智慧處理能力的原因,是因為它在基準測試中也擊敗了它。高通稱Snapdragon 8 Gen 3的CPU、GPU和NPU組合為其「AI引擎」。這是因為智慧型手機SoC的CPU、GPU和NPU在處理驅動智慧型手機上的人工智慧功能的機器學習模型時得到了廣泛應用。基準測試清楚地顯示Tensor G3的CPU和GPU相對較弱,而其客製化的TPU無法足夠彌補這一不足。

原始的運算能力至關重要,特別是在過去12到18個月中生成式人工智慧的崛起。此時,Tensor G3對Pixel粉絲唯一的好處是Google承諾為Pixel 8系列提供7年的OS更新,這遠遠超過使用高通的承諾。然而,在目前階段,這僅僅是一個承諾,對於Tensor G3是否能夠實際支援Android 21仍存有疑問,這理論上是Pixel 8 Pro和Pixel 8將接收的最後一次OS更新。

2024年Pixel 9 Pro推出時,情況似乎不會有太大改善,初步跡象表明Tensor G4將繼續使用Tensor G3的當前CPU架構,儘管它可能會升級TPU和GPU。這將與Tensor G2的方法相似,後者只是對原始的Tensor進行了輕微升級。直到2025年,我們可能終於會看到Google兌現一個能夠實現Google最初承諾的Tensor,一個完全定製的Tensor,但——至關重要的是——是在台積電的3奈米製程上製造的。這應該使Tensor G5在市場上更具競爭力,與其他旗艦晶片相比更為優越。

不過,目前 Pixel 8 Pro 還只是勉強維持現狀——當需要盡快採用全新架構和更好的製造工藝時,它能否經受住類似於 Tensor G2 的升級?一個明顯的短期解決方案是明年在 Pixel 9 Pro 中放棄 Snapdragon 8 Gen 3。然而,考慮到Google在 Tensor 品牌上投入的巨大努力,在考慮開發 Tensor G4 所花費的沉沒成本和交換晶片的重新設計成本之前,這將帶來行銷挑戰。這是一個如此大的障礙,以至於谷歌似乎被鎖定在目前的軌道上。如果Google按計劃進行,很可能會摧毀Tensor和Pixel品牌所剩下的任何聲望。

即使在這個早期階段,Pixel 8系列的銷售似乎表現不佳。儘管Google傳統上在黑色星期五銷售活動中打折銷售Pixel,但在Pixel 8 Pro推出僅四周後,距離官方黑色星期五銷售活動正式開始還有一個半星期,Pixel 8 Pro已經提供超過400澳元的巨額折扣。這是非常不尋常的。Pixel系列繼續提供出色的軟體和優秀的相機性能。Google在智慧型手機上率先推出了設備上的人工智慧功能,其人工智慧功能仍然是領先的。但它的Tensor晶片成為了其致命傷。

國寶大師 李文恩
作者

電腦王特約作者,專門負責硬派內容,從處理器、主機板到開發板、零組件,尖端科技都一手包辦,最近的研究計畫則包括Windows 98復活與AI圖像生成。

使用 Facebook 留言
發表回應
謹慎發言,尊重彼此。按此展開留言規則