FB 建議貼文

選取貼文複製成功(包含文章連結)!

APMIC「PrivModel」方案支援 gpt-oss,準確率衝 40%、成本砍 9 成

APMIC「PrivModel」方案支援 gpt-oss,準確率衝 40%、成本砍 9 成

台灣 AI 新創 APMIC 宣布旗下企業級 AI 微調方案「PrivModel」正式支援 OpenAI 最新開源模型 gpt-oss,在內部實測中能提升約 40% 準確率,推論成本更驟降 90%。此外,APMIC 也同步任命資深 GPU 專家陳尹鈞(Ian Chen)為北美總經理,強化在地化技術與客戶支援,加速私有 AI 解決方案全球佈局。

GPT-OSS + PrivModel:推論效率大升級

OpenAI 最近開源的 gpt-oss 模型(含 120B 與 20B 版本)被視為企業 AI 私有化的重要里程碑。APMIC 將其自研微調與蒸餾技術「S1 Distillation」正式升級為「PrivModel」,進一步整合至推論平台「PrivStation」,主打全地端部署、無需程式碼開發即可使用。

根據 APMIC 測試,經過蒸餾優化後的 gpt-oss 模型,在台灣地區專用評測集 TMMLU+ 上取得超過 80 分,明顯優於過去的 gpt-3(不到 60 分),在醫療領域更勝 o4-mini 模型約 13 分。除了準確率提升,搭配 RTX Pro 6000 等硬體即可即時推論,大幅降低部署門檻。

為什麼企業需要「私有化 AI」?

APMIC 執行長吳柏翰表示:「企業在導入 AI 時,資料主權與法規合規是一大關鍵。我們的 PrivModel 讓企業能在自己地端環境下部署專屬模型,保留資料控制權,同時節省九成推論成本。」

他也指出,gpt-oss 雖然具備開源彈性,但若直接使用仍會遇到參數過大、推論效能不穩等問題,因此 APMIC 結合 CPT、SFT、RL 等微調技術進行模型壓縮與優化,提供更適合商用場景的版本。

除了語言模型,PrivModel 也強化原始 gpt-oss 缺乏的視覺能力,支援多模態輸入,讓模型能處理圖文結合場景,是推進推理式 AI(Reasoning AI)的重要里程碑。

任命北美總經理,搶攻海外私有 AI 市場

為加速國際拓展,APMIC 同步宣布由具備超過 20 年 GPU 與 AI 晶片經驗的陳尹鈞出任美國總經理。他曾任職 NVIDIA 矽谷、香港、台灣辦公室,熟悉從高階繪圖卡到資料中心 GPU 的業務拓展。

陳尹鈞將帶領北美業務、OEM、雲端合作夥伴推動企業 AI 私有化導入,聚焦醫療、金融、製造等對資料安全與法規要求極高的產業。

台灣新創、國際布局!APMIC 鏈結 AI 生態圈夥伴

APMIC 也與多家業界夥伴密切合作,包括 CKmates、GMI Cloud、Glows AI、Ubilink 等推論服務商,以及 Dell、HPE、NVIDIA 等硬體設備商,並攜手資安廠商 CyCraft,確保模型可於 Blackwell 架構 GPU 上安全執行。

「我們希望讓每家企業都能打造自己的 AI 大腦,從模型到決策,一站式實現。」吳柏翰表示。

 

 

janus
作者

PC home雜誌、T客邦產業編輯,曾為多家科技雜誌撰寫專題文章,主要負責作業系統、軟體、電商、資安、A以及大數據、IT領域的取材以及報導,以及軟體相關教學報導。

使用 Facebook 留言
發表回應
謹慎發言,尊重彼此。按此展開留言規則