FB 建議貼文

選取貼文複製成功(包含文章連結)!

傳 NVIDIA 將投資 AI 晶片對手 d-Matrix,以「解耦推理」整合競品擴大硬體生態系

傳 NVIDIA 將投資 AI 晶片對手 d-Matrix,以「解耦推理」整合競品擴大硬體生態系

知情人士透露,輝達(NVIDIA)計畫投資新創晶片公司d-Matrix。這家成立7年的業者主打AI伺服器晶片,產品目標就是跟輝達搶生意。這筆擬議投資,是輝達推動自家技術與競品晶片相容、把對手拉進自己主導的硬體生態的一步——即便輝達在AI推理晶片市場的市佔還在持續攀升。

傳 NVIDIA 將投資 AI 晶片對手 d-Matrix,以「解耦推理」整合競品擴大硬體生態系

從Groq到d-Matrix,合作路線成型

這是繼去年12月與Groq簽下200億美元(約新臺幣6,500億)技術授權協議之後,輝達首次對AI推理晶片新創開交易,說明輝達不打算只押注一家公司。三個月前,輝達就開始跟晶片對手合作,讓雙方晶片協同運作,分擔同一套AI推理工作負載的不同任務,目標是提升這類運算的執行效率。

競爭對手很難撼動輝達的領先優勢,因此越來越多廠商選擇跟輝達GPU協同運作,而非完全取而代之。輝達拉對手進生態,還能帶動自家網路硬體銷售——這類產品把多組伺服器機架互連成一套系統跑高負載AI運算,也就是所謂平行運算。

過去12個月,輝達對另外兩家體量更大的AI晶片對手英特爾、博通完成數十億美元規模入股,部分目的就是推動輝達GPU跟這兩家晶片整合。目前還不清楚這類整合何時大規模落地。多家新創晶片公司人員透露,輝達也向其他幾家新創推銷方案,希望它們的晶片能相容搭載輝達網路技術的GPU。

今年8月,亞馬遜也提出類似構想:讓輝達GPU跟亞馬遜自研的Trainium AI晶片在同一資料中心、統一架構的伺服器機架上共存執行,Trainium還能呼叫輝達的網路與記憶體硬體。另一家新創SambaNova Systems則在6月展示自家晶片跟輝達GPU互連、共同跑AI模型的方案。

看好解耦推理,扶植對手成長

在推動異質整合的同時,輝達還獨立研發一套晶片系統,把GPU跟Groq的專用AI推理晶片組合起來——此前透過那筆200億美元授權交易,輝達也吸收了Groq創始團隊與多名員工。據瞭解這項調查的訊息人士稱,美國司法部正在調查輝達設計Groq這筆交易的方式,是否意在規避司法部對該交易衝擊晶片市場的正式調查,訊息最早由《紐約時報》披露。

呼叫不同廠商晶片共同處理同一個AI任務,是相當新的行業概念,業界稱為解耦推理(disaggregated inference)。儘管輝達積極跟小型對手落地解耦推理方案,輝達對外仍強調:單靠自家晶片,依然能最高效地處理幾乎全部AI工作負載。

即便如此,雲端服務商,以及Anthropic、OpenAI這類頭部AI開發商,不希望完全依賴單一晶片供應商。這兩家AI公司除了採購他牌晶片降低對輝達的依賴,也在自研AI推理晶片。

d-Matrix的技術重點是推測解碼(speculative decoding),能加快AI模型執行速度。在輝達這套待推出的聯合系統中,d-Matrix晶片跑小型AI模型,預先猜測大模型該給使用者的輸出;大模型則跑在輝達GPU上,對猜測結果進行檢核、確認採用。

The Information此前報導,d-Matrix當時正尋求新一輪融資,目標投後估值50億美元(約新臺幣1,600億),目前還不確定輝達這筆資金是否會納入本輪。d-Matrix上一輪融資在2025年11月,募資2.75億美元、投後估值20億美元;公司今年夏天完成第一代晶片量產,第二代晶片正在測試。

 

 

 

NetEase
作者

網易科技,有態度的科技門戶!關注微信公眾號(tech_163),看有態度的深度內容。

發表回應
謹慎發言,尊重彼此。按此展開留言規則