FB 建議貼文

選取貼文複製成功(包含文章連結)!

APMIC「PrivModel」方案支援 gpt-oss,準確率衝 40%、成本砍 9 成

APMIC「PrivModel」方案支援 gpt-oss,準確率衝 40%、成本砍 9 成

台灣 AI 新創 APMIC 宣布旗下企業級 AI 微調方案「PrivModel」正式支援 OpenAI 最新開源模型 gpt-oss,在內部實測中能提升約 40% 準確率,推論成本更驟降 90%。此外,APMIC 也同步任命資深 GPU 專家陳尹鈞(Ian Chen)為北美總經理,強化在地化技術與客戶支援,加速私有 AI 解決方案全球佈局。

GPT-OSS + PrivModel:推論效率大升級

OpenAI 最近開源的 gpt-oss 模型(含 120B 與 20B 版本)被視為企業 AI 私有化的重要里程碑。APMIC 將其自研微調與蒸餾技術「S1 Distillation」正式升級為「PrivModel」,進一步整合至推論平台「PrivStation」,主打全地端部署、無需程式碼開發即可使用。

根據 APMIC 測試,經過蒸餾優化後的 gpt-oss 模型,在台灣地區專用評測集 TMMLU+ 上取得超過 80 分,明顯優於過去的 gpt-3(不到 60 分),在醫療領域更勝 o4-mini 模型約 13 分。除了準確率提升,搭配 RTX Pro 6000 等硬體即可即時推論,大幅降低部署門檻。

為什麼企業需要「私有化 AI」?

APMIC 執行長吳柏翰表示:「企業在導入 AI 時,資料主權與法規合規是一大關鍵。我們的 PrivModel 讓企業能在自己地端環境下部署專屬模型,保留資料控制權,同時節省九成推論成本。」

他也指出,gpt-oss 雖然具備開源彈性,但若直接使用仍會遇到參數過大、推論效能不穩等問題,因此 APMIC 結合 CPT、SFT、RL 等微調技術進行模型壓縮與優化,提供更適合商用場景的版本。

除了語言模型,PrivModel 也強化原始 gpt-oss 缺乏的視覺能力,支援多模態輸入,讓模型能處理圖文結合場景,是推進推理式 AI(Reasoning AI)的重要里程碑。

任命北美總經理,搶攻海外私有 AI 市場

為加速國際拓展,APMIC 同步宣布由具備超過 20 年 GPU 與 AI 晶片經驗的陳尹鈞出任美國總經理。他曾任職 NVIDIA 矽谷、香港、台灣辦公室,熟悉從高階繪圖卡到資料中心 GPU 的業務拓展。

陳尹鈞將帶領北美業務、OEM、雲端合作夥伴推動企業 AI 私有化導入,聚焦醫療、金融、製造等對資料安全與法規要求極高的產業。

台灣新創、國際布局!APMIC 鏈結 AI 生態圈夥伴

APMIC 也與多家業界夥伴密切合作,包括 CKmates、GMI Cloud、Glows AI、Ubilink 等推論服務商,以及 Dell、HPE、NVIDIA 等硬體設備商,並攜手資安廠商 CyCraft,確保模型可於 Blackwell 架構 GPU 上安全執行。

「我們希望讓每家企業都能打造自己的 AI 大腦,從模型到決策,一站式實現。」吳柏翰表示。

 

 

想看小編精選的3C科技情報&實用評測文,快來加入《T客邦》LINE@
janus
作者

PC home雜誌、T客邦產業編輯,曾為多家科技雜誌撰寫專題文章,主要負責作業系統、軟體、電商、資安、A以及大數據、IT領域的取材以及報導,以及軟體相關教學報導。

使用 Facebook 留言
發表回應
謹慎發言,尊重彼此。按此展開留言規則