FB 建議貼文

選取貼文複製成功(包含文章連結)!

微軟也扛不住AI高成本?員工一個月竟刷掉90萬台幣Token,官方祭出限速令

微軟也扛不住AI高成本?員工一個月竟刷掉90萬台幣Token,官方祭出限速令

面對生成式 AI 帶來的龐大運算成本壓力,科技巨頭微軟(Microsoft)近期正式展開內部 AI 資源管控行動。根據外媒《Android Headlines》報導,一份外流的微軟內部數據顯示,部分員工為衝高工作績效或測試數據,在過去數月內大量消耗 AI 算力資源,甚至出現單一員工在 28 天內耗費高達 2.8 萬美元(約合新台幣 89.6 萬元)Token 的驚人紀錄。

為遏止內部資源浪費並優化營運成本架構,微軟正逐步將內部預設工作負載切換至 OpenAI 旗下的 GPT-5.6 Sol 模型,同時不再鼓勵工程人員在程式撰寫等任務中使用 Anthropic Claude 等第三方外部工具。這項新政策標誌著科技巨頭在積極拓展 AI 生態系之際,也開始對企業內部的「算力通膨」與實際投資報酬率(ROI)展開嚴格審查與紀律重整。

內部算力消耗差距達數十倍,業務與核心研發部門支出最為驚人

目前微軟在全球擁有超過 22.3 萬名員工,在本次曝光的調查中,共有約 350 名美國本土員工自願提交了月度 AI 使用數據。統計結果顯示,整體月度 AI 使用成本中位數約落在 300 美元(約合新台幣 9,600 元),然而不同職能與部門之間的算力消耗卻呈現極為懸殊的「貧富差距」。其中,創下 28 天消耗 2.8 萬美元最高紀錄的員工並非來自基礎架構團隊,而是隸屬於客戶與合作夥伴解決方案(Customer and Partner Solutions)部門。

在研發體系方面,負責底層架構與前沿技術的 CoreAI 團隊平均使用量最為龐大,月度使用成本中位數高達 975 美元(約合新台幣 3.12 萬元),該部門內部個人最高單月支出甚至達到 1.6 萬美元(約合新台幣 51.2 萬元)。相較之下,Microsoft AI 部門平均月支出約為 490 美元(約合新台幣 1.57 萬元);而體驗與裝置(Experiences and Devices)部門平均約 250 美元(約合新台幣 8,000 元),負責雲端服務的 Azure 部門人均支出則落在 241 美元(約合新台幣 7,712 元),顯示前線開發與業務端在調用大模型時的成本控制標準存在顯著落差。

全面導入 GPT-5.6 Sol 控管成本

為了有效遏制異常膨脹的 Token 支出,微軟管理層已開始強化即時監控機制,精準識別各團隊中支出偏離常態的個別員工,並針對各事業群設定更為嚴苛的月度預算天花板。這項舉措不僅是為了避免內部算力被無效浪費,也是微軟在雲端與 AI 資本支出持續高漲的大環境下,所採取的主動防禦策略。

在此波成本控管措施下,微軟內部預設的 AI 運算負載已全面加速轉向更具成本效益比的 OpenAI GPT-5.6 Sol 模型。同時,微軟亦正式調整了內部工具的使用規範,明確不再鼓勵工程師於日常寫 Code 或專案開發時使用 Anthropic 推出的 Claude 等第三方 AI 工具。透過集中模型資源於自家具備深度戰略合作的 OpenAI 輕量/最佳化方案,微軟期望在維持員工生產力與業務創新速度的同時,重新奪回企業內部 AI 運算成本的主控權。

 

 

 

cnBeta
作者

cnBeta.COM(被網友簡稱為CB、cβ),官方自我定位「中文業界資訊站」,是一個提供IT相關新聞資訊、技術文章和評論的中文網站。其主要特色為遊客的匿名評論及線上互動,形成獨特的社群文化。

發表回應
謹慎發言,尊重彼此。按此展開留言規則