近年來,生成式人工智慧的爆發帶動了底層硬體架構的劇烈變革,市場上對算力的渴求幾乎達到了前所未有的高峰。目前由輝達(Nvidia)所主導的 GPU 搭配 HBM 高頻寬記憶體架構,雖然能提供極致的運算效能,但其高昂的建置成本與供不應求的產能瓶頸,讓許多企業在推動 AI 專案時面臨巨大壓力。
就在這波技術浪潮中,一家名為 Majestic Labs 的新創企業近期投下了一枚震撼彈,正式對外發表名為「普羅米修斯(Prometheus)」的全新 AI 伺服器架構。這款新世代設備不僅完全捨棄了傳統的圖形處理器設計,更首度將史無前例的超大容量 LPDDR6 記憶體陣列導入運算核心。這項大膽的技術嘗試是否能夠真正撼動當前固若金湯的 AI 硬體版圖,已成為全球科技圈高度關注的焦點。
創新架構與記憶體配置
「普羅米修斯」伺服器最引人注目的核心設計,在於其完全屏棄了市面上主流的 GPU 加速器,轉而採用自家研發的 Ignite AI 處理單元(AIU)。
這款客製化晶片巧妙地將 Arm 核心架構與 RISC-V 向量及張量運算引擎進行深度整合,專門針對當前大型語言模型的推論與訓練需求進行最佳化。每台伺服器最多可擴充安裝十二個 AIU 節點,透過這種高度模組化且異質整合的運算單元,能在處理複雜神經網路任務時展現出極高的平行運算效率,同時大幅降低了對於單一強效晶片的依賴。
除了運算核心的革新,這款伺服器在資料吞吐量上的設計更是顛覆了業界常態。Majestic Labs 替每台伺服器配置了驚人的 8TB 至 128TB LPDDR6 記憶體容量,徹底跳脫了 HBM 記憶體的高昂成本與封裝限制。這種基於海量 LPDDR6 的記憶體池架構,不僅能夠輕易將數千億參數等級的巨型 AI 模型完整載入記憶體中運行,有效避免了頻繁的資料交換延遲,更在整體系統的性價比上取得了極大的優勢,為未來大規模人工智慧部署提供了一條極具潛力的全新道路。
卓越的能效表現與散熱設計
在資料中心等級的大規模部署情境中,能源消耗與散熱管理往往是決定營運成本的關鍵因素。
根據 Majestic Labs 官方釋出的規格資料,標準配置的 40U 伺服器機櫃最多可以容納四台「普羅米修斯」伺服器,而整座機櫃的總功耗被精準控制在 120kW 左右。相較於傳統基於頂級 GPU 叢集所建構的運算機櫃,這樣的功耗表現在提供同等甚至更高記憶體容量的前提下,展現出了極為優異的能源使用效率。
官方甚至大膽宣稱,單一 Majestic 機櫃所能提供的記憶體總容量,足以匹敵多達二十五個輝達 NVL72 Vera Rubin 機櫃的驚人規模。
為了因應高密度運算所帶來的龐大熱能,這套系統全面導入了先進的液冷散熱技術,徹底捨棄了傳統氣冷方案在極限狀態下的物理瓶頸。液體冷卻不僅能夠更迅速地帶走核心晶片與巨量記憶體模組運作時產生的廢熱,還能大幅降低資料中心在空調維持上的額外電力開銷。
這種從底層硬體架構到散熱系統的全面革新,顯示出該公司在追求極致硬體規格的同時,也充分考量了現代企業對於綠能與永續營運的實際需求,進一步提升了產品在企業級市場的綜合競爭力。
一款創新的硬體平台若要取得商業上的成功,軟體生態系的支援程度絕對是成敗的關鍵。
「普羅米修斯」伺服器全面遵循開放運算計畫(OCP)的硬體設計標準,確保能夠無縫融入現有的大型資料中心基礎設施。在軟體相容性方面,該系統更直接支援了包含 PyTorch、vLLM 以及 OpenAI Triton 等當前最主流的開源人工智慧框架。這意味著開發者與企業用戶無需耗費鉅資重新編寫底層程式碼,即可將現有的 AI 模型平滑轉移至這套新平台上運行。
- 延伸閱讀:蘋果光環失靈?AI 伺服器搶光 LPDDR5X 記憶體,單機架容量抵 170 台手機,庫克警告要漲價了
- 延伸閱讀:AI 伺服器需求大爆發!AMD 執行長蘇姿丰證實伺服器CPU 大缺貨,桌機處理器恐延後上市
- 延伸閱讀:AI 伺服器把硬碟搶光了!傳統 HDD 交期拉長到兩年,資料中心改買大容量 SSD、QLC 快閃記憶體救急
請注意!留言要自負法律責任,相關案例層出不窮,請慎重發文!