大語言模型（LLM）規模的急遽膨脹，正讓 AI 晶片面臨嚴峻的「記憶體牆（Memory Wall）」挑戰。記憶體大廠 SK 海力士（SK hynix）與 Sandisk 於 2026 年 8 月 4 日「未來記憶體和儲存裝置大會」（Future of Memory and Storage 2026，FMS 2026）開幕日，首度公開「高頻寬快閃記憶體」（High Bandwidth Flash，HBF）的第一版標準規格，並透過開放運算計畫（Open Compute Project，OCP）對外釋出，定位為全產業共用的開放標準而非專有技術。
規格涵蓋 8 層與 16 層兩種 NAND 晶粒堆疊組態，單顆最高容量 512GB；頻寬則劃分為三個等級（Grade 1～3），約落在 0.4 TB/s 至 3.0 TB/s。雙方的標準化合作始於 2025 年 8 月，並於 2026 年 2 月正式成立聯盟，目前 Google 與 Tenstorrent 已加入。這項技術的目標，是把模型權重（Model Weights）與動態快取從 HBM 中解耦，交由兩種介質分工承擔。
記憶體牆與 KV Cache 的效能泥淖
生成式 AI 模型的參數規模已跨入千億等級。一個具備 1,000 億參數、採用 FP16 浮點精度（單一參數佔據 2 位元組）的大型模型，光是載入模型權重就需佔用 200GB 的高頻寬記憶體空間。模型權重代表神經網路經過訓練後積累的知識總和，模型規模越大，儲存權重所需的記憶體容量便成正比擴增。
推理過程中的上下文長度擴展帶來了額外的動態記憶體壓力。模型每生成一個新的 token，理論上都必須重新計算整段歷史上下文的注意力運算；為了省下這筆重複計算，業界採用鍵值快取（Key-Value Cache, KV Cache），將先前 token 經投影後的 Key 與 Value 向量暫存於記憶體中。當上下文長度拉長，KV Cache 佔用的空間與存取頻率同步激增。
目前量產中的 HBM4 以 24Gb 顆粒 12-Hi 的 36GB 為主流；16-Hi 的 48GB 版本，SK 海力士規劃於 2026 年第三季進入量產。JEDEC 的 HBM4 規格上限則為 32Gb 顆粒堆疊 16 層的 64GB。在 HBM 容量與頻寬有限的情況下，模型權重與 KV Cache 爭奪同一份記憶體資源，迫使業者只能透過增加 GPU 數量來擴充記憶體，大幅拉高硬體建置成本。
HBF 以大規模平行讀取換取頻寬
HBF 架構採用了類似 HBM 的 3D 垂直堆疊概念，改以快閃記憶體（NAND Flash）晶粒進行高密度封裝。多層 NAND 晶粒透過矽貫通孔（Through Silicon Vias, TSVs）進行垂直互連，底部則整合一顆控制邏輯晶片（Logic Die），負責調度底層晶粒的大量平行存取。依 Sandisk 說法，其規劃中的第一代 HBF 產品，在佔用面積、堆疊高度與功耗輪廓上刻意對齊 HBM4，以降低系統重新設計的門檻。
晶片介質的物理特性決定了兩者的速度差異。單一 SRAM 的讀取延遲約為 1 奈秒（ns），DRAM 延遲約為 100 奈秒，而 NAND 晶粒的讀取延遲則高達 100 微秒（µs），比 DRAM 慢了約 1,000 倍。HBF 控制邏輯晶片透過並行發送數千個獨立讀取請求，利用極致的平行化（Parallelism）彌補單一單元的延遲，使整體讀取頻寬拉升至約 0.4 TB/s 至 3.0 TB/s 的水準，不過官方並未說明這組數字指的是單一封裝還是整體子系統。
值得注意的是，這個數字與 HBM 屬於同一量級，而非「輾壓」HBM。JEDEC 的 HBM4 標準以 2,048-bit 介面搭配最高 8 Gb/s 傳輸速率，單顆堆疊總頻寬可達 2 TB/s；而實際量產產品普遍超越這條規格下限，SK 海力士的 HBM4 以超過 10 Gb/s 運作、單堆疊約 2.56 TB/s，三星更達 11.7 Gb/s。換言之，HBF 的價值主張並不是比 HBM 更快。依 Sandisk 官方資料，HBF 的訴求是在相近頻寬與相近成本下，提供相較 HBM 高達 8 至 16 倍的容量。
互連介面則是本次規格的另一項重點。HBF 採用業界標準的 UCIe（Universal Chiplet Interconnect Express）作為與處理器之間的連接介面，使其能彈性搭配 GPU、CPU 等不同類型的運算晶片。標準內容還涵蓋連接介面與電氣特性、HBF 晶粒堆疊製程的可靠性與封裝準則，以及軟體 I/O 指引。
權重與快取的雙軌分工體系
NAND 介質的抹寫壽命（Write Endurance）與寫入速度限制，決定了 HBF 的應用邊界。KV Cache 隨文字生成頻繁進行寫入與更新，難以承受 NAND 晶粒的抹寫耗損，原則上仍須保留在低延遲、高耐久度的 HBM DRAM 之中。模型權重在推理階段僅進行讀取操作（Read-Only），完全契合 HBF 高讀取頻寬與高儲存密度的特性。
不過這條界線並非絕對。SK 海力士自家提出的 H³ 混合架構論文便主張，若是多個請求共享、且已預先計算完成的唯讀 KV Cache，同樣有機會下放至 HBF。至於推論過程中動態生成、寫入頻繁的 KV Cache，業界目前更常見的作法仍是往下一層走：例如 ScaleFlux 便在 FMS 2026 推出針對 NVIDIA CMX KV cache offload 最佳化的企業級 SSD 平台，主打 200 條以上 FDP 寫入串流與五年 7～10+ DWPD 的有效耐久度。
整體而言，HBF 與 HBM 的雙軌分工機制改變了 AI 加速卡的架構設計。HBF 承載龐大的模型權重，釋放出昂貴的 HBM 空間專門用於處理 KV Cache，讓 AI 晶片能以較低成本支援更長的上下文窗口（Context Window），同時維持輸出的精確度。雖然 HBF 仍須仰賴先進封裝（Advanced Packaging）技術，成本遠高於普通 SSD，但其每 GB 成本顯著低於 HBM，為超大型 AI 模型的商業化落地提供更具經濟效益的解法。
規格先行，量產與生態系都還沒到位
需要留意的是，3.0 TB/s 是標準規格中的最高等級，而非首代產品的實際能力。依 Sandisk 官方資料，第一代 HBF 產品規劃為 16 顆晶粒堆疊、512GB 容量搭配 1.6 TB/s 讀取頻寬；第二代與第三代才分別將讀取頻寬推進至逾 2 TB/s 與 3.2 TB/s，堆疊容量也上看 1TB 與 1.5TB。
時程上，HBF 目前仍停留在標準發布階段。Sandisk 先前公布的規劃為：首批 HBF 樣品於 2026 年下半年推出，首批搭載 HBF 的 AI 推論裝置則於 2027 年初開始送樣。本次標準發布並未提供更新後的產品時程表。
質疑聲浪同樣存在。HBF 的存取延遲仍在微秒等級，遠高於 HBM 的百奈秒級；抹寫壽命方面，兩家公司迄今皆未公布 HBF 的具體數字，SK 海力士 H³ 論文中引用的量級約為 10 萬次寫入循環，該論文同時列出 HBF 的能耗最高可達 HBM 的 4 倍。加上區塊層級（block-level）定址限制，以及維持大規模平行存取所需的互連工程複雜度，都是量產前必須克服的門檻。
生態系的成形速度是另一個變數。自 2025 年雙方宣布合作定義規格以來，公開表態參與 HBF 聯盟的仍僅有 Google 與 Tenstorrent，AMD、Broadcom、Intel、NVIDIA、Marvell、Micron、高通、三星與 Western Digital 迄今均未表達興趣。競爭路線也已出現：鎧俠（Kioxia）於 2025 年 8 月公布的原型走的是 PCIe 6.0 菊鏈架構，單模組 5TB 容量、64GB/s 頻寬，頻寬僅約第一代 HBF 的 1/25，但容量高出一個量級。
對超大規模資料中心而言，最終的考驗仍是開放標準能否吸引第二、第三家供應商投入。同樣由兩家廠商主導的 Intel Optane，就因價格高於同密度 NAND、效能又弱於 DRAM，加上跟不上 NAND 的位元密度競賽，最終由 Micron 於 2021 年停止 3D XPoint 產品開發、Intel 於 2022 年實質收攤，這絕對是 HBF 想避開的前車之鑑。
資料來源：
請注意！留言要自負法律責任，相關案例層出不窮，請慎重發文！