NVIDIA發表全新NVHBM架構！效能大漲30％還能幫晶片「瘦身」 關鍵技術細節曝光

NVIDIA 正式推出全新客製化高頻寬記憶體架構「NVHBM」，透過將記憶體控制器直接移入 HBM 堆疊內部，徹底顛覆傳統 HBM 架構佔用主運算裸片面積的物理設計瓶頸。

根據 NVIDIA 公布的官方技術數據，相較於標準 JEDEC HBM4E 規範，NVHBM 能實現最高 30% 的記憶體頻寬提升、降低 15% 的 HBM 運作功耗，並為處理器運算裸片（Compute Die）釋出高達 25% 的額外可用矽片空間，為下一代超大規模 AI 晶片與資料中心架構帶來革命性突破。

突破傳統控制器佔位瓶頸：控制器內置釋放 25% 運算裸片面積

在傳統 HBM 架構設計中，記憶體控制器通常必須配置於昂貴的先進製程運算裸片（如 GPU 或 XPU）上，這往往白白佔據了原本可用於配置運算核心與大容量快取記憶體的寶貴矽片面積。NVHBM 則採取革新設計，將控制器直接轉移整合至 HBM 堆疊晶片內部，旨在同時達成提升頻寬、降低能耗以及最大化運算裸片可用面積的三重效益。

除了架構移轉，面積節省的另一大關鍵來自全新設計的客製化實體介面（PHY）。傳統標準 HBM 採用較寬的介面佈線，容易擴大整體封裝佔用空間；而 NVHBM 所採用的客製化 PHY 能將 I/O 面積相較 JEDEC HBM4E 最多縮減達 67%。更窄的介面設計亦大幅簡化了中介層（Interposer）的走線佈局難度，在整體封裝晶片佈局中釋放高達 80% 的額外可用矽片空間。NVIDIA 特別強調，縮小 PHY 面積能顯著減輕中介層上的走線限制，這對於需要在大型運算裸片周圍緊密整合多組 HBM 堆疊的旗艦加速處理器而言尤為關鍵。

單堆疊理論頻寬上看 5.2TB/s：三星與亞馬遜率先攜手落地

在能源效率方面，NVHBM 實現 HBM 功耗降低 15% 的意義，遠不僅是單純節省用電，更為運算裸片爭取到了可觀的散熱餘裕（Thermal Headroom）。這項優勢在大型企業級部署與超大型資料中心中極具放大效應：當數千個運算單元在數百個機架內同步高速運算時，單一零組件的能效優化將轉化為龐大的系統級效益。

NVIDIA 指出，以一座採用單顆功耗 2000W XPU、總用電規模達到 1GW（百萬瓩，相當於一座核電機組）的頂級 AI 資料中心為例，單純透過 NVHBM 節省下來的電力與散熱餘量，理論上即可額外支援部署高達 15,000 顆（1.5 萬個）XPU 運算晶片，大幅提升資料中心的整體算力密度與投資報酬率。

值得關注的是，記憶體巨頭三星（Samsung）日前於 Hot Chips 2026 大會上已正式確認，正著手準備出貨單引腳傳輸速率達 16Gbps 的全新 HBM4E 晶片，較目前 14Gbps 版本顯著躍升。現行 14Gbps 的 HBM4E 透過 2048 個引腳可提供每堆疊 3.6TB/s 的記憶體頻寬，而 16Gbps 版本則將單堆疊頻寬推向 4TB/s 大關。若以此為基準疊加 NVIDIA NVHBM 所宣稱的 30% 額外頻寬提升幅度，單組 NVHBM 堆疊的理論頻寬最高將可達到驚人的 5.2TB/s 左右。

為加速產業落地，NVIDIA 表示 NVHBM 架構將開放接受多家記憶體晶片供應商的相容性驗證，以簡化終端客戶與雲端服務商的供應鏈認證流程。目前，亞馬遜（Amazon）旗下的客製化晶片設計部門 Annapurna Labs 已成為首家公開確認將與 NVIDIA 展開合作推進 NVHBM 技術的合作夥伴，預料未來將導入 AWS 旗下自研 AI 訓練與推論晶片陣容，加速雲端算力轉型。

• 延伸閱讀：三星HBM4良率衝破80%，攜手輝達AMD搶攻AI伺服器商機
• 延伸閱讀：AI浪潮擋不住！HBM4記憶體價格傳將「翻倍暴漲」 專家：未來顯卡恐怕更貴了
• 延伸閱讀：不用再被 HBM 綁架！傳 OpenAI 秘密開發 KVCache 優化技術，低價 NAND 快閃記憶體也能跑大模型