AI真的太貴了！亞馬遜執行長談AI普及關鍵：推理成本要降十倍，自研晶片是救星

亞馬遜執行長安迪·賈西（Andy Jassy）認為，AI 推理成本仍然太高，要讓 AI 廣泛應用於企業軟體，成本還需要降至目前的約十分之一，而亞馬遜自研晶片有望協助降低成本。

今年資本支出 2,200 億美元，2026 年算力基本訂滿

賈西在創投機構 a16z 當地時間 23 日發布的採訪中透露：「在我看來，要讓 AI 得到盡可能廣泛的應用，推理成本仍然高了一個數量級。」

亞馬遜今年計畫投入 2,200 億美元資本支出，卻依然無法建成足夠的基礎設施來滿足 AI 需求。賈西透露，2026 年的主要算力供應額度基本訂滿，2027 年的大部分也已被客戶預訂，2028 年也有相當一部分已經售罄。在他看來，市場需求如此旺盛，亞馬遜即使再多投入大量資金，都不會是浪費。

賈西把 AI 需求比作一副「槓鈴」：一端是 AI 實驗室，消耗的算力大到「前所未見」；另一端則是企業客戶，主要將 AI 用於客戶服務、詐騙偵測等具體任務。

真正尚未充分開發的是中間市場，也就是企業日常使用的各類軟體。這些軟體還沒有廣泛引入 AI，但賈西認為，未來最大的 AI 需求可能就來自這一領域。

制約企業採用 AI 的主要因素是推理成本。AI 模型每回答一個問題、完成一項任務，都需要消耗算力。如果引入 AI 帶來的收益不足以抵消更高的營運費用，企業就沒有多少動力重構現有軟體。

賈西以亞馬遜多年前的經歷作比較。當時英特爾主導雲端伺服器處理器市場，亞馬遜希望以同樣的成本獲得更高的計算性能，卻難以說服英特爾優先滿足這一需求，最終決定自行開發 Graviton 處理器。在他看來，「同樣的故事又在 AI 領域上演了」。

AI 晶片市場目前由輝達占據主導地位。亞馬遜則推出自研 Trainium 晶片，希望為客戶提供成本更低的選擇。賈西在採訪中沒有直接點名輝達，僅強調市場上的主導供應商仍是亞馬遜的重要合作夥伴。

據介紹，Trainium 的性價比較同類處理器高出約 30% 至 40%，客戶花同樣的錢就能獲得更多算力，「我們的晶片業務在降低推理成本方面發揮著重要作用。」

亞馬遜此前披露，Trainium 已獲得超過 2,250 億美元的未來收入承諾，其中包括與 Anthropic 和 OpenAI 達成的協議。

推理成本能不能繼續往下走，將決定 AI 從實驗室與客戶服務場景走進企業日常軟體的速度。