OpenAI 核心系統大換血！僅靠 2 名工程師與 AI 協作，棄 Python 改用 Rust 效能狂飆 6 倍

OpenAI 日前正式揭露其核心線上儲存平台「Habitat」的演進史，宣布全面啟動架構大換血：這套每秒必須扛住超過 7,000 萬次請求（QPS）的關鍵系統，已正式告別過去賴以起家的 Python，全面轉向系統級語言 Rust。

最令人震撼的是，這場足以影響全球數億使用者的底層大手術，OpenAI 僅動用了兩名資深工程師，搭配自家的 Codex 與 GPT-5.5 程式碼生成模型，便在短短數月內完成全面重構，並帶來 CPU 效率激增 6 倍、記憶體使用狂降 15 倍的驚人戰果。

從共用函式庫演化成獨立要塞

時序倒回 2024 年，Habitat 最初只是嵌在 ChatGPT 主伺服器內的 Python 客戶端共享函式庫（Shared Library）。

當時它的設計初衷相當務實：為了讓產品工程師能夠專注於快速迭代功能，而不必深陷微軟 Azure Cosmos DB 等底層資料庫的複雜細節，Habitat 默默包辦了資料型態辨識、動態路由、資料加解密、序列化以及底層連線池的管理工作。只要呼叫簡潔的 API，工程師就能輕易完成資料存取，這套架構也確實幫助 OpenAI 撐過了生成式 AI 剛起步時的爆發性擴張期。

然而，隨著內部產品線急速擴張，共用函式庫的致命痛點在 2025 年年中徹底引爆。一旦底層儲存邏輯需要微調或安全性修補，工程團隊就必須協調全公司數十個獨立服務同步重新建置與部署，發布流程的相依性與突發故障風險瞬間失控。

為了解開這團糾纏不清的微服務毛線球，OpenAI 果斷將 Habitat 從各服務的「內部函式庫」剝離，獨立改造成集中式的微服務架構。

這個轉向不僅讓儲存層能自主部署與監控，更關鍵的是為全平台建立了一道堅不可摧的安全防禦閘門。透過統一的 Habitat 閘道，OpenAI 能夠在單一中樞嚴密把關存取授權、審計稽核日誌（Audit Log）與儲存資源配額，大幅降低了外部攻擊、內部越權，甚至是日益自主化的 AI 代理（AI Agents）意外洩露使用者隱私資料的致命風險。

Python 榨乾極限也填不平的效能深淵

即便拆分成了獨立服務，底層選用 Python 所帶來的先天瓶頸，仍在每秒數千萬次請求的狂暴流量下被無限放大。

儘管 Python 能讓團隊在開發初期享受極致的靈活度，但在極端高併發情境中，行程間的 CPU 負載切換、記憶體管理開銷與非同步排程延遲，隨時都可能引發嚴重的長尾延遲（Tail Latency）。為了替 Python 續命，團隊幾乎榨乾了每一滴最佳化空間：從嚴格限制單機併發請求量、大量堆疊工作行程（Workers）、重構非同步事件迴圈，到延後並降低大體積 JSON 設定檔的解析頻率，可說是把傳統 Web 架構優化手段用到了極致。

工程團隊甚至在排查效能抖動時抓出了一個隱蔽陷阱：Python 常用的非同步 HTTP 模組 aiohttp，預設居然採用後進先出（LIFO）的連線復用策略，導致流量反覆灌入少數回應遲鈍的處理序。團隊將其強行改造為先進先出（FIFO），才勉強抹平了負載不均的尖刺。

在資料查詢層面，OpenAI 亦採取了嚴格的「防禦性架構」。Habitat 僅對外暴露嚴格受限的 NoSQL 介面，徹底封殺了客戶端發起任意 SQL 跨表關聯（JOIN）或大規模全表掃描的可能。針對需要複雜檢索與商業分析的查詢情境，系統則透過變更資料擷取（CDC，Change Data Capture）機制，將儲存變更近乎即時地同步至 Rockset 向量與分析引擎，成功把交易型寫入負載與分析型讀取負載徹底解耦。但這一切補丁，依舊無法掩蓋 Python 在巨量吞吐下的根本力不從心。

2 位工程師攜手 GPT-5.5：Rust 換血帶來的 6 倍 CPU 奇蹟

當架構修補走到了物理極限，OpenAI 決定不再妥協。2026 年第二季，一項大膽的全面重寫計畫正式啟動：將承載整個公司命脈的 Habitat，徹底以記憶體安全與極致效能聞名的 Rust 語言打掉重練。

令人側目的是，推動這場史詩級架構遷徙的核心人力居然只有兩位資深工程師。在 OpenAI 自家 AI 輔助開發工具 Codex 與最新世代 GPT-5.5 的協同作業下，整個團隊展現出不可思議的重構效率——從複雜的 Cosmos DB 通訊協定封裝、高併發連線池重寫，到嚴苛的邊界條件測試與並行驗證，AI 工具扛下了大量重複且耗時的搬遷工程。

短短數個月內，純 Rust 打造的新一代 Habitat 便順利誕生，且在極短時間內接管了線上高達 95% 的真實生產環境請求。OpenAI 證實，將在未來數週內徹底除役最後的 Python 舊服務。