不僅是生成Token！微軟Azure總裁揭示AI效能瓶頸解方，推動跨領域技術整合與跨層設計

微軟（Microsoft）Azure 雲端硬體與基礎建設總裁 Rani Borkar 於 SEMICON Taiwan 2026 發表主題演講，為全球半導體與 AI 產業拋出全新思考。過去幾年，AI 的發展重心多集中於資料中心、晶片、記憶體與電力等硬體資源的「規模擴張」；對此，Rani Borkar 呼籲產業應將「提升有效產出（yield imperative）」視為當務之急，不應僅以建置多少運算容量來定義 AI 基礎建設的成功與否，更需關注資源能否以最高效率轉化為真正有用的智慧。

迎向 AI 新階段：從「原始容量」轉向「有效產出」

隨著每一代新 AI 對晶片、記憶體、電力與網路的需求持續攀升，單純仰賴基礎建設的擴充已不足以支撐未來發展。Rani Borkar 強調，要滿足現今 AI 基礎建設的需求，不僅需要擴大容量，更需提升「有效產出（useful yield）」，亦即讓晶片、記憶體、網路與電力更有效率地轉化為具備價值的實際成果。這可透過增加每一分錢與每瓦電力所能產生的 Token 數量、整體處理效能提升，以及降低延遲等指標來全面衡量效益。

持續推動 AI 基礎建設不只需要提升各層雲端架構的效率，也必須透過跨領域技術整合來實現突破性創新。這有賴全球半導體生態系攜手合作，從零組件、設備與材料供應商，到水、電等公用事業、資料中心營運商、模型開發者與軟體工程師共同參與。

突破效能瓶頸：「跨層設計」成為關鍵解方

根據微軟設計與營運全球規模 AI 基礎建設的經驗，「跨層設計（cross-layer design）」將成為下一階段提升效率的核心。企業不應受限於單點優化零組件，而是必須打破既有思維，從晶片、記憶體、網路、電力、散熱、軟體、模型、工作負載到大規模營運等各個層面進行跨層整合，因為最棘手的效能瓶頸，往往需要跳脫問題最初出現的層級才能找出解決方案。

Rani Borkar 表示：「我們將持續擴充基礎建設容量以因應世界未來發展所需，然而衡量進展的核心標準必須是最終的產出成果——不只是晶片或 Token，而是能否真正轉化為賦能、機會與人類成就的實用智慧。」

微軟的目標不只是生成更多 Token 或部署更多基礎建設，而是讓智慧的成本變得更可控、可靠且普及。當更多人與組織皆能運用 AI 智慧，並以此為基礎進一步創新與創造價值，基礎建設的進步才能轉化為更廣泛的經濟機會與社會影響力。