企業自主AI解決方案領導品牌APMIC(Accelerate Private Machine Intelligence Company)今(20)日宣布,其企業級微調與蒸餾方案「PrivModel」已全面支援OpenAI的gpt-oss系列模型,在特定應用場景中可將準確度提升約40%,並降低90%推論成本,同時,APMIC任命擁有超過二十年產業經驗的GPU與AI晶片專家陳尹鈞(Ian Chen)出任美國總經理,負責北美市場拓展與策略合作,推動企業私有AI全球落地。
APMIC針對OpenAI近期推出的gpt-oss系列模型包括gpt-oss-120b與gpt-oss-20b,採用自研的「PrivModel」方案進行多模態模型微調。內部測試顯示,蒸餾後的模型可在維持FP4精度的情況下,將gpt-oss準確度提升約40%,同時,蒸餾後的模型可在RTX Pro 6000平台高效推論,並支援繁體中文思維鏈(CoT)推理,協助企業在符合法規與合規要求下實現推理式AI(Reasoning AI)私有化部署。
現正最夯:川普致電匈牙利總理奧班 問他為何阻撓烏克蘭加入歐盟
APMIC進一步指出,OpenAI的模型具有很強的模型保護機制,傳統QLoRA量化微調方法在學習專業知識上有所限制,必須結合CPT、SFT、RL等方式才能完成模型微調,在TMMLU (繁體中文台灣在地知識驗證集)測試中,gpt-oss全數取得80分以上,健康醫療領域表現較o4 mini 高出約 13 分,數學邏輯運算僅差約2分,「PrivModel」方案還強化了gpt-oss原先缺乏的視覺能力,協助企業高效、安全的打造專屬、輕量且具商業價值的私有AI模型。
APMIC創辦人暨執行長吳柏翰(Jerry Wu)表示,OpenAI的gpt-oss為企業導入AI帶來全新動能。經「PrivModel」微調與蒸餾後的模型搭載「PrivStation」架構,可支援媲美o4-mini等級的模型,同時具備視覺能力,讓台灣企業在保護知識資產的同時,以節省九成成本的方式達成高效能推論。APMIC與推論算力租賃廠商CKmates、GMI Cloud、Glows AI、Ubilink等訓練算力夥伴,以及硬體廠商Dell、HPE、NVIDIA等密切合作,並透過CyCraft的安全防護,確保蒸餾後模型能在Blackwell架構全系列設備上安全運行,實現從模型到決策的企業級AI導入路徑。
此外,為加速全球佈局,APMIC任命陳尹鈞為美國辦公室總經理,陳尹鈞積累了超過二十年的產業實務與管理經驗,曾在NVIDIA香港與台灣分公司擔任工程與業務管理職務,陳尹鈞將專注推動北美市場與策略夥伴發展,推進「PrivModel」企業級微調與蒸餾方案及「PrivStation」一站式落地應用,與GPU雲服務商、OEM、設計製造相關軟體公司進行策略合作,並拓展AI在金融、製造等需要合規AI產業的場景實施。
APMIC為企業自主AI解決方案領導品牌,於2017年在台灣創立,以自然語言理解(NLU)核心技術出發,其研發出的「PrivModel」模型微調與蒸餾服務方案及企業私有化一站式方案「PrivStation」,能夠協助企業上傳資料,不需撰寫任何程式,就能打造出專屬的地端AI大腦。