為了擺脫對外部算力的高度依賴並壓低龐大的運算開銷，OpenAI 自研 AI 推論晶片專案取得重大進展。OpenAI 內部研發的首款客製化 AI 晶片「Jalapeno」近期公開多項效能測試數據，在低延遲響應速度與每瓦能效指標上，成功超越晶片巨頭輝達（NVIDIA）的旗艦產品 GB300。這款晶片由 OpenAI 與博通（Broadcom）深度合作打造，預計最快於今年稍晚正式部署上線，為 OpenAI 旗下的各類生成式 AI 模型提供專屬算力支援，象徵著這家 AI 領頭羊在自建硬體基礎設施的戰略佈局上邁出關鍵一步。
兼顧高吞吐量與極低延遲，700瓦功耗大幅砍半運算成本
在晶片架構設計上，AI 運算處理器通常難以同時滿足「高算力輸送量（Throughput）」與「極速響應（Low Latency）」兩項指標。傳統晶片若追求大批次處理能力，往往會犧牲單次請求的回應速度；反之，若專注於低延遲，則難以支撐大規模並行運算。
然而，負責該晶片專案的負責人 Ho 指出，Jalapeno 成功打破了這項硬體權衡瓶頸，同時兼具了強大的高吞吐量與低延遲特性。
Ho 進一步表示，在實驗室嚴格的測試環境中，Jalapeno 展現出極為出色的高吞吐量能力，這意味著資料中心能夠以顯著降低的成本同時服務海量用戶請求；與此同時，在對低延遲要求極高的應用場景中，該晶片的響應時間表現極為迅速。更關鍵的是，Jalapeno 在 700 瓦（W）的功耗水準下即可輸出強悍運算效能，這對於電力成本佔據絕大部分營運支出的現代 AI 資料中心而言，能直接大幅削減日常營運開銷。
在實測模型驗證方面，OpenAI 本次測試使用了自家輕量級開源模型 GPT-OSS 120B，以及來自 DeepSeek 和 Moonshot AI（月之暗面）的第三方模型進行多方壓力測試。測試結果顯示，在運行 Moonshot 的旗艦模型 Kimi K2.5（1T 參數規模）時，Jalapeno 相較於同級硬體所展現的加速優勢更為顯著。
此外，OpenAI 內部針對數款尚未對外公開的次世代超大型先進模型進行測試，Jalapeno 同樣維持極高水準的穩定表現，顯示該晶片架構隨著運算工作負載（Workload）規模擴大與複雜度提升，其架構設計的綜合價值將進一步被放大。
聚焦推論專用場景，第二代與第三代晶片藍圖全面啟動
需要特別釐清的是，Jalapeno 是一款專為 AI「推論（Inference）」階段量身打造的專用晶片，而非針對模型「訓練（Training）」任務所設計。
訓練階段依舊是輝達 GPU 技術最難以撼動的強項；而在推論階段——即模型完成訓練後，根據使用者輸入的 Prompt 即時生成文本、圖像或執行邏輯判斷的過程——Jalapeno 憑藉專用電路架構與記憶體通道設計，實現了過去需要搭配特殊高頻寬記憶體與異質晶片架構才能達成的低延遲速度。此外，本次測試對照基準為輝達 GB300，並未納入輝達剛開始出貨的最新一代 Vera Rubin 架構晶片。
在硬體研發體系上，OpenAI 早於去年便宣佈與客製化 ASIC 晶片龍頭博通展開戰略結盟，雙方更在今年 6 月對外宣傳該晶片的研發進程創下業界紀錄。OpenAI 同時透露，內部團隊大量運用了自身的先進 AI 模型來輔助半導體架構設計與電路驗證，大幅縮短了晶片設計週期。目前第二代晶片已經進入深度研發階段，Ho 證實預計將在「未來數個月內」完成流片（Tape-out），代表第二代晶片設計將正式定案並交付晶圓代工廠試產；與此同時，第三代自研晶片的架構規劃也已同步展開，目標是全面降低全球 AI 基礎設施的建構與運轉成本。
儘管自研晶片展現出強烈企圖心，OpenAI 現階段仍採取多元化算力供應策略。例如目前部分小型模型仍依賴 Cerebras 提供的晶圓級引擎（WSE）晶片運行，短期內不會立即汰換現有供應商。Ho 強調，全球市場對頂級 AI 算力的需求極為龐大，多晶片供應商策略仍將持續相當長一段時間；特別是面對輝達，OpenAI 依然將其視為不可或缺的核心戰略夥伴，並明確表示：「輝達是一家非常優秀的合作夥伴，我們未來依然需要大量採購並使用輝達的頂級晶片。」
請注意！留言要自負法律責任，相關案例層出不窮，請慎重發文！