今年 3 月,獲得紅杉資本(Sequoia Capital)青睞的美國法律科技新創 Harvey 針對旗下 AI 代理(AI Agent)推出重大更新,隨之而來的卻是一場戲劇性的財務危機:雖然企業客戶的使用量呈爆發式成長,但公司的毛利率卻一路自由落體,從年初約 50% 的健康水準,在短短三個月內重挫至 6 月的 -50%。這意味著用戶每發出一次法律檢索指令,Harvey 就要自掏腰包倒貼巨額的專利模型調用費用,淪為替模型巨擘打白工的典型苦主。
流量暴衝卻淪為 API 打工仔
這場毛利率由正轉負的震撼教育,徹底打破了「調用最頂級模型就是最佳解」的迷思。為了解決每分每秒都在失血的財務黑洞,Harvey 在 8 月果斷推出自家客製化模型,核心架構轉向採用由中國月之暗面(Moonshot AI)打造的開放權重模型 Kimi K3。
知情人士指出,Kimi K3 的推論與理解表現已相當逼近 Anthropic 的頂級模型,但授權與運算成本卻大幅銳減。結合內部對 AI 調用流程的路由分流與架構重構,這項大膽的技術換血策略迅速發揮成效,成功讓 Harvey 的毛利率在歷經數月虧損後重新由負轉正。
當應用端用戶規模擴大,專有封閉模型的昂貴計費機制就成了鎖喉的枷鎖。Harvey 的及時停損證明了一件事:在商業現實面前,過度依賴單一巨頭的 API,無異於將企業的生命線拱手讓人。

軟體新創集體倒戈開放權重與客製化
Harvey 的轉變絕非個案,一場針對 OpenAI 與 Anthropic 的「逃離潮」正在各領域蔓延。
醫療科技新創 Abridge 近期宣布,正運用輝達(NVIDIA)的開放模型訓練專門用於臨床醫療情境的客製化基礎模型;AI 客服公司 Decagon 則透露,旗下目前已有高達 80% 的客戶查詢由自建模型接手;就連在金融科技領域甫於 6 月完成 7.5 億美元融資的 Ramp 以及 Rogo,也首度著手探索自建模型。而在程式輔助領域,現已隸屬於 SpaceX 的 Cursor 與估值高達 480 億美元的 Cognition,更早在第一線驗證了客製化模型的性價比優勢。
「以前自建模型對我們而言太過昂貴,但現在開放權重系統的演進速度完全改變了遊戲規則,」Ramp 共同執行長卡里姆・阿蒂耶(Karim Atiyeh)直言不諱地指出,一年前自建模型根本毫無商業合理性,但在算力成本持續攀升的今天,「身為管理者如果不考慮這件事並加以最佳化,完全是不負責任的行為」。
對紅杉資本與 General Catalyst 等頂級風投而言,鼓勵旗下投資企業採用具性價比的開放模型,不僅能替新創守住最大的營運開銷,更能奪回技術主控權。
這股逃亡潮對正摩拳擦掌準備首次公開募股(IPO)的 OpenAI 與 Anthropic 來說,無疑是個嚴峻警訊。同時,在各界對先進 AI 是否該放緩發展的監管爭論聲中,擁抱開放權重模型也成了新創企業最關鍵的未雨綢繆避險棋局。
自建模型背後的人才與成本暗礁
然而,並非所有矽谷投資人都對這股「自建模型狂熱」照單全收。
Anthropic 投資方、Menlo Ventures 合夥人馬特・克拉寧(Matt Kraning)便公開潑下冷水,指出並非每家新創都具備開發客製化模型的本錢。訓練與微調模型不僅需要極高昂的前期資本支出,更仰賴市場上最稀缺且薪資高昂的頂尖機器學習人才;若盲目跟風,反而可能在尚未降低調用成本前,就先被自建研發的固定成本壓垮。
「問一家公司『有沒有自己的模型』,這個問題本身就問錯了方向,」克拉寧直言,在大多數情況下,許多新創宣稱自研模型往往只是迎合市場炒作的行銷噱頭。在商業化落地的殘酷戰場上,究竟是算力解放還是資源虛耗,端看企業能否在模型性能、前期開銷與長遠利潤之間找到精準的平衡點。
- 延伸閱讀:Meta 推 Muse 個人 AI 代理:Meta Muse 是什麼?能幫忙寄信、購物還能自主執行任務的 AI Agent 正式登場
- 延伸閱讀:程式設計將迎來終結?Bun 創辦人靠 AI 代理人 11 天完成跨語言重構,揭示軟體開發「人設框架、AI 產出」的典範大轉移
- 延伸閱讀:不怕 AI 代理人失控亂跑!OpenAI 秘密研發「自動終止」功能 防堵資安漏洞變駭客
請注意!留言要自負法律責任,相關案例層出不窮,請慎重發文!