NVIDIA又賺到了！AI伺服器一年漲價20倍，光A100顯卡就漲了50%

最近AI應用服務爆紅，導致AI算力需求暴漲，AI伺服器及AI顯卡供不應求，價格也水漲船高，不到一年甚至有漲價20倍的。而毫無疑問的，在這波對AI硬體需求高漲的環境下，NVIDIA又成為最大贏家。

根據媒體引用某企業透露的消息，該公司去年6月購買的AI伺服器，不到一年的時間價格就漲了近20倍。與此同時，GPU價格也不斷上漲，例如A100 GPU市場單價漲幅50%，而A800價格漲幅相對會比較小。

AI伺服器價格這幾年一直變化較大，主要因其規格在不斷提升，同時其核心零組件GPU全球主要廠家NVIDIA、AMD在GPU方面的產能有限，市場GPU供應持續緊缺，預計未來AI伺服器價格仍將保持上漲趨勢。

NVIDIA當前最強的加速卡是A100及H100，各家雲端服務都搶著要用，先前NVIDIA就宣布與微軟合作，將在微軟旗下Azure雲端平台加入數以萬計的NVIDIA A100及H100 GPU加速元件，藉此在雲端平台建構超級電腦運算能力。

目前在Azure雲端平台的執行個體中，將採用NVIDIA A100 GPU，搭配傳輸速率可達200Gbps的InfiniBand網路技術，後續也會增加NVIDIA H100 GPU，以及傳輸速率可達400Gbps的InfiniBand網路技術。

與OpenAI合作、佈局長達5年之久

為什麼NVIDIA的硬體這麼重要？其實他們佈局已久，像是NVIDIA早在10年前就開始押注AI，5年前就開始跟OpenAI合作了，當時NVIDIA生產了第一塊超級AI晶片，就提供給後者用於AI運算。

ChatGPT火爆之後，也帶動了NVIDIA的AI加速卡的銷售，因為ChatGPT主要使用NVIDIA的NVIDIA A100 Tensor 核心GPU 做訓練，因此現在最搶手的顯示卡就是它了，先前傳聞ChatGPT這樣的AI模型至少需要3萬張A100能訓練，後者的售價在1萬到1.5萬美元之間。

因此，現在看來NVIDIA或許是賺大了，但是人家在背後之前的佈局長達五年之久，這也是老黃慧眼識英雄。

黃仁勳也在採訪中多次親自推銷A100，他表示現在的創業者跟AI密不可分，A100驅動的AI超級電腦會成為創業者的合作夥伴，裡面還包含了演算法、巨量資料等內容，這些都會成為創業計畫的一部分。因此，未來不止OpenAI，只要是想搞AI的，買他們的A100就對了。