Arm控股有限公司(納斯達克股票代碼:ARM,Arm)宣布其運算平台發展邁入下一個新階段,首度將版圖拓展至量產晶片產品。此一里程碑以Arm AGI CPU的推出為開端,該產品是Arm針對AI資料中心而設計的處理器,專為因應日益增加的代理式AI(agentic AI)工作負載。

三十多年來,產業持續在Arm運算平台上推動創新,為數千億裝置提供具備可擴展性與高能源效率的運算能力。隨著AI重塑全球運算基礎架構,生態系夥伴也持續尋求得以大規模部署Arm技術的解決方案。為此,Arm將其平台策略從IP與運算子系統(Compute Subsystems, CSS),進一步擴展至由Arm設計的晶片產品,為合作夥伴在Arm運算技術上提供最完整的建構選擇,並加速AI生態系的創新發展。

全站首選:前財長顏慶章愛女顏慧欣驟逝享年53歲! 川普關稅台美談判關鍵推手

Arm執行長Rene Haas表示:「AI已從根本上重新定義運算的建構與部署方式,而代理式運算正在加速這項轉變。今天不僅代表Arm運算平台邁入下一個階段,也是公司發展的重要里程碑。透過Arm AGI CPU量產晶片的推出,我們得以在Arm高效能與高能源效率的運算基礎之上,為合作夥伴提供更多選擇,以支援代理式AI基礎架構在全球規模的實現。」

代理式AI正在重塑AI基礎架構,並帶動對CPU更強勁的需求

AI代理的興起正在推動全球運算邁入重要轉折點。隨著AI從模型訓練轉向部署可持續運作、具備推論、規劃與執行能力的各項代理,整體AI系統所產生的token數量正在快速成長,同時對CPU的數量需求也大幅增加,以便進行推論、協調及資料傳輸等工作。

全站首選:馬英九流淚心痛發聲「送司法調查」蕭旭岑:馬前總統忘記了很多事

隨著企業大規模擴展由代理式AI驅動的應用,資料中心每吉瓦(GW)所需的CPU容量,預期將超過目前的四倍,這也代表必須在相同的功耗限制下提供大幅提升的運算能力。因此,市場對專為AI規模基礎架構打造的新類型CPU需求日益增加——這類處理器需要具備保持高token數吞吐量的優異效能、能在實際電力限制下運作的高效率,同時搭載更為精簡的架構設計,免去x86處理器的開銷與複雜性。

Arm平台拓展至量產晶片產品

Arm表示,Arm AGI CPU的推出預計將成為代理式資料中心的基礎。此次平台版圖拓展至晶片產品,也為整個生態系在建構與部署Arm架構基礎設施時提供更高的彈性——無論是採用Arm IP授權、導入Arm運算子系統,或部署由Arm設計的晶片。

Arm AGI CPU具備以下特點:

效能:每顆CPU可搭載多達136個Arm Neoverse V3核心,在每核心、SoC、刀鋒伺服器及機櫃層級皆提供領先業界的效能*,並具備每核心6GB/s記憶體頻寬及低於100奈秒的延遲。

擴展性:300瓦熱設計功耗(TDP),並為每個程式執行緒配置專屬核心,可在持續高負載下提供可預測的效能,同時避免效能降頻(throttling)與閒置執行緒問題。

效率:支援高密度1U伺服器機箱的氣冷部署,每個機櫃最高可達8,160核心;在液冷系統下,單一機櫃可提供超過45,000個核心。

Arm表示,這些能力可轉化為更高的工作負載密度、更好的加速器利用率,以及在既有功耗限制下提供更多可用的運算資源——隨著AI基礎架構持續擴展,這些優勢顯得格外關鍵。相較於x86 CPU,Arm AGI CPU在每機櫃可提供超過2倍的效能,並可在每吉瓦的AI資料中心容量上,節省高達100億美元的資本支出(CAPEX)。

Arm AGI CPU獲得廣大生態系的支持

Arm表示,做為Arm AGI CPU的早期合作夥伴與共同開發者,Meta採用該CPU以最佳化其應用程式的基礎架構,並與其自研晶片MTIA(Meta Training and Inference Accelerator)協同運作,提升大規模AI系統的整體調度效率。雙方也承諾將在Arm AGI CPU的多代產品藍圖上持續深化合作。

Meta基礎架構負責人Santosh Janardhan表示:「在全球規模下提供AI體驗,需要一套強大且具可適應性的客製化晶片產品組合,並專為加速AI工作負載且最佳化Meta各平台效能而設計。我們與Arm攜手開發Arm AGI CPU,以部署一套高效率的運算平台,顯著提升資料中心的效能密度,並支援我們AI系統持續演進的多代產品藍圖。」

除Meta外,Arm亦宣布與多家合作夥伴拓展進一步的商業合作,包括Cerebras、Cloudflare、F5、OpenAI、Positron、Rebellions、SAP與SK Telecom。這些客戶將在多項關鍵代理式CPU應用場景中部署Arm AGI CPU,包括加速器管理、控制平面處理,以及雲端與企業環境中的應用程式介面(API)、任務與應用程式託管。

為加速產品導入進程,Arm正與多家主要OEM與ODM合作,包括永擎電子(ASRock Rack)、聯想(Lenovo)、廣達電腦(Quanta Computer)及美超微電腦(Supermicro)。目前已有早期系統可供使用,並預計於今年下半年擴大供應。

橫跨超大規模運算(hyperscale)、雲端、晶片、記憶體、網路、軟體、系統設計與製造等領域,已有超過50家領先企業支持Arm拓展其運算平台至晶片產品,包括亞馬遜網路服務(AWS)、博通(Broadcom)、Google、邁威爾(Marvell)、美光科技(Micron)、微軟(Microsoft)、輝達(NVIDIA)、三星(Samsung)、海力士(SK hynix)與台積公司(TSMC)等合作夥伴。