FB 建議貼文

選取貼文複製成功(包含文章連結)!

APMIC亮相COMPUTEX 2025,推出S1模型微調與蒸餾解決方案

APMIC亮相COMPUTEX 2025,推出S1模型微調與蒸餾解決方案

APMIC 宣布將再度參加 COMPUTEX台北國際電腦展 創新與新創展區 InnoVEX,並成為全台首家全面導入 NVIDIA 最新 Blackwell 架構 B200 GPU 的AI解決方案提供商。同時,APMIC也正式推出全新「S1模型微調與蒸餾」解決方案,協助企業建置特化語言模型,推進AI實際應用的落地進程。

模型客製化解決方案「S1」 從訓練、蒸餾到測試全面支援

APMIC此次發表的「S1模型微調與蒸餾」解決方案,建構於 NVIDIA NeMo 端對端平台NIM微服務架構,涵蓋模型訓練、知識蒸餾與測試擴充等完整流程,並支援容器化部署,適用於地端伺服器與私有雲環境。

根據 Bedrock Security 於2025年3月發表的《企業資料安全信心指數》報告,有多達 70% 的美國資安專家將AI與機器學習的資料治理列為年度首要關注重點,顯示企業對資料自主與私有化部署需求日益高漲。APMIC看準此趨勢,推出S1方案,提供工具平台租用或ODM代工等彈性服務,助企業快速打造專屬AI系統,加速知識內化與應用擴展。

S1解決方案採用 Teacher-Student 教學模型架構,先以開源大語言模型結合企業內部資料進行優化,再透過知識蒸餾技術壓縮為輕量版本,同時保留語意理解力與任務精度,並大幅減少模型參數與運算資源需求。企業可實現真正的私有化部署,兼顧效能與資安,打造屬於自己的「AI企業大腦」。

全面採用NVIDIA B200 GPU 破解企業AI運算瓶頸

APMIC也是全台首家全面導入 NVIDIA B200 GPU 的軟體業者。B200相較前一代產品,無論在語言模型的訓練還是推論速度上,都有數倍效能提升,並具備強化的FP4運算能力與更高記憶體頻寬,為企業在大模型微調與壓縮過程中提供突破性運算支援。

結合APMIC的S1解決方案,企業不僅能充分發揮B200的效能潛力,還能在既有架構下加快模型開發與部署速度,有效降低總持有成本(TCO),進一步提升AI應用的準確率與彈性,實現從概念驗證到實際營運的AI落地。

COMPUTEX與GTC Taipei雙軌佈局 多場活動聚焦企業AI落地實戰

APMIC將於 COMPUTEX 2025 期間,在 南港展覽館2館InnoVEX展區 展出S1解決方案,攤位分別設於 NVIDIA Inception主攤(S0724)Garage+ 快閃攤位(S0324)。此外,創辦人暨執行長 吳柏翰 將於5月22日上午11:00,於 NVIDIA GTC Taipei 大會 發表專題演講,主題為《透過知識蒸餾與測試階段擴展提升LLM準確度與運算效率》,分享多階段訓練與蒸餾策略的實戰經驗。

另在5月19日,APMIC也將參與於台北萬豪酒店舉辦的 HPE & NVIDIA Private Cloud Conference 2025,由AI生態系策略夥伴總監 蔡宜潔 發表企業模型微調與蒸餾實務的相關應用,協助企業建構專屬語言模型,掌握AI主導權。

janus
作者

PC home雜誌、T客邦產業編輯,曾為多家科技雜誌撰寫專題文章,主要負責作業系統、軟體、電商、資安、A以及大數據、IT領域的取材以及報導,以及軟體相關教學報導。

使用 Facebook 留言
發表回應
謹慎發言,尊重彼此。按此展開留言規則