半導體設計與軟體公司Arm(17日)宣布推出「可擴展矩陣延伸指令集2(SME2)」技術,以加速Android裝置的AI效能,並驅動次世代動應用功能革新,此技術透過強化CPU的矩陣運算能力,直接提升電腦視覺、生成式AI等任務的執行效率,且無須開發者修改現有程式碼、模型或應用程式,SME2已整合至Google XNNPACK、阿里巴巴MNN等主流AI框架,並獲得多家廠商支持,預計將大幅降低AI應用的延遲與耗能。

隨著AI技術在行動裝置上的應用日益廣泛,開發者面臨著效能、能耗與複雜度的多重挑戰,KleidiAI的深度整合已覆蓋多個主流AI框架,這意味著當裝置支援SME2時,相關AI任務將自動導向SME2執行,從而顯著提升效能,例如,在搭載SME2的裝置上運行GoogleGemma3模型時,AI回應速度比未啟用SME2的同款裝置快六倍,且單一CPU核心即可在不到一秒內完成800字文本摘要任務。

當前熱搜:輕度颱風薇帕凌晨生成可能增強!今明「最接近台灣」最新路徑曝光

除了效能提升,SME2還強化了能源效率,使其成為行動AI應用的理想解決方案,一家領先的獨立軟體供應商已計劃將部分詞元生成工作負載從雲端遷移至裝置端,進一步凸顯SME2的實用價值。GoogleAndroid傑出軟體工程師IliyanMalchev表示,SME2的普及將使開發者能更輕鬆地部署次世代AI功能,為使用者帶來低延遲且廣泛可用的智慧體驗。

Arm強調,SME2不僅適用於Android,也支援最新的iOS裝置,目前已有超過900萬款應用在Arm平台上運行,並由2200萬名開發者基於Arm平台建構他們的應用和工作負載,為協助開發者充分發揮SME2潛力,Arm還推出了開發者啟動平台,提供豐富案例與技術資源,幫助開發者充分運用SME2的技術優勢。

SME2技術作為Armv9架構的高階指令集,專注於加速高強度的矩陣運算,這對電腦視覺、自然語言處理及語音生成等即時推論任務,SME2的優勢在於其無縫整合能力,開發者只需透過Arm的軟體加速層KleidiAI,即可自動啟用硬體加速功能,無需額外調整程式碼或模型。