
台灣 AI 新創 APMIC 宣布旗下企業級 AI 微調方案「PrivModel」正式支援 OpenAI 最新開源模型 gpt-oss,在內部實測中能提升約 40% 準確率,推論成本更驟降 90%。此外,APMIC 也同步任命資深 GPU 專家陳尹鈞(Ian Chen)為北美總經理,強化在地化技術與客戶支援,加速私有 AI 解決方案全球佈局。
GPT-OSS + PrivModel:推論效率大升級
OpenAI 最近開源的 gpt-oss 模型(含 120B 與 20B 版本)被視為企業 AI 私有化的重要里程碑。APMIC 將其自研微調與蒸餾技術「S1 Distillation」正式升級為「PrivModel」,進一步整合至推論平台「PrivStation」,主打全地端部署、無需程式碼開發即可使用。
根據 APMIC 測試,經過蒸餾優化後的 gpt-oss 模型,在台灣地區專用評測集 TMMLU+ 上取得超過 80 分,明顯優於過去的 gpt-3(不到 60 分),在醫療領域更勝 o4-mini 模型約 13 分。除了準確率提升,搭配 RTX Pro 6000 等硬體即可即時推論,大幅降低部署門檻。
為什麼企業需要「私有化 AI」?
APMIC 執行長吳柏翰表示:「企業在導入 AI 時,資料主權與法規合規是一大關鍵。我們的 PrivModel 讓企業能在自己地端環境下部署專屬模型,保留資料控制權,同時節省九成推論成本。」
他也指出,gpt-oss 雖然具備開源彈性,但若直接使用仍會遇到參數過大、推論效能不穩等問題,因此 APMIC 結合 CPT、SFT、RL 等微調技術進行模型壓縮與優化,提供更適合商用場景的版本。
除了語言模型,PrivModel 也強化原始 gpt-oss 缺乏的視覺能力,支援多模態輸入,讓模型能處理圖文結合場景,是推進推理式 AI(Reasoning AI)的重要里程碑。
任命北美總經理,搶攻海外私有 AI 市場
為加速國際拓展,APMIC 同步宣布由具備超過 20 年 GPU 與 AI 晶片經驗的陳尹鈞出任美國總經理。他曾任職 NVIDIA 矽谷、香港、台灣辦公室,熟悉從高階繪圖卡到資料中心 GPU 的業務拓展。
陳尹鈞將帶領北美業務、OEM、雲端合作夥伴推動企業 AI 私有化導入,聚焦醫療、金融、製造等對資料安全與法規要求極高的產業。
台灣新創、國際布局!APMIC 鏈結 AI 生態圈夥伴
APMIC 也與多家業界夥伴密切合作,包括 CKmates、GMI Cloud、Glows AI、Ubilink 等推論服務商,以及 Dell、HPE、NVIDIA 等硬體設備商,並攜手資安廠商 CyCraft,確保模型可於 Blackwell 架構 GPU 上安全執行。
「我們希望讓每家企業都能打造自己的 AI 大腦,從模型到決策,一站式實現。」吳柏翰表示。
- 延伸閱讀:高盛示警:AI 正在搶走新鮮人工作,20–30 歲科技從業者失業率飆升
- 延伸閱讀:阿特曼談 AI 人才爭奪戰:別只盯明星工程師,可用人才比你想的多
- 延伸閱讀:各家AI大模型誰最強?馬斯克承認 Google 暫居 AI 領先地位
請注意!留言要自負法律責任,相關案例層出不窮,請慎重發文!