問一次 AI 耗多少電？Google：相當於看電視不到 9 秒，遠低於外界預估

生成式 AI 在全球掀起浪潮，但隨著使用量不斷攀升，AI 帶來的能源消耗與環境影響也逐漸成為焦點。Google 日前公布最新研究，首次揭露旗下 Gemini 模型的能源足跡，並指出使用 Gemini 進行一次文字提示的中位數耗電量僅 0.24 瓦時（Wh），相當於觀看電視不到 9 秒鐘，碳排放約 0.03 克 CO₂e，水資源消耗約 0.26 毫升（約五滴水），遠低於外界先前的估計。

AI 每次推理僅 0.24Wh，低於先前預期

Google 在技術報告中指出，Gemini 每次文字提示的能源影響相當低，且背後有賴於資料中心效率提升與 AI 模型優化。報告指出，過去 12 個月內，Gemini 文字提示的能源消耗已下降 33 倍，碳足跡則減少 44 倍，同時回應品質仍不斷提升。

這項研究採用 Google 自行開發的綜合評估方法，考量了 AI 運算中的多個環節，包括晶片利用率、閒置機器耗能、CPU 與記憶體消耗、資料中心冷卻成本以及水資源使用。Google 強調，許多業界公開數據僅計算活躍 TPU、GPU 的耗能，未納入閒置機器與基礎設施開銷，因此容易低估 AI 的真實能源足跡。

TPU、演算法、資料中心全方位優化

Gemini 的高效率來自 Google 的「全端優化策略」，從硬體到演算法全面進化：

• 客製化硬體：Google 十年來持續研發 TPU（Tensor Processing Unit），最新一代 TPU Ironwood 比初代 TPU 節能 30 倍，在 AI 推理上的功耗效率也遠優於傳統 CPU。

• 高效模型架構：Gemini 採用 Transformer 架構並引入「專家混合（MoE）」與「混合推理」技術，讓模型僅啟動必要部分，減少 10 至 100 倍計算量。

• 演算法與量化：透過「精確量化訓練（AQT）」及「推測解碼（speculative decoding）」等技術，以更少的晶片提供更多回應。

• 資料中心優化：Google 資料中心的平均電力使用效率（PUE）僅 1.09，屬全球頂尖，同時推進 24/7 無碳能源與淡水補給計畫，力求降低能源、水資源與碳排放的整體影響。

Google：高效 AI 是長期承諾

Google 表示，隨著 AI 需求快速成長，公司將持續投入資源，降低每次 AI 提示的耗能與用水量。透過公開方法與數據，Google 希望帶動整個產業朝向更永續的 AI 發展，實現「高效能、低環境影響」的目標。

Google 強調，Gemini 效率的提升只是第一步，未來還將在硬體設計、模型架構與資料中心管理等層面持續創新，最終達到讓 AI 運算更加節能、環境更友善的願景。

資料來源：Google Cloud

• 延伸閱讀：AI 吃電怪獸降臨！懷俄明州將蓋超級資料中心，用電量恐超越全州總和
• 延伸閱讀：AI 正在「吸乾」全球電力？耗電問題只是冰山一角，更可怕的事還在後面
• 延伸閱讀：研究稱生成式 AI 耗水量巨大：使用 GPT-4 生成 100 字就會消耗 3 瓶水