NVIDIA宣布,SpaceXAI 將部署 NVIDIA Vera CPU,加速其下一代代理型 AI 應用,為全球最具雄心的 AI 部署之一帶來首款專為 AI 代理打造的 CPU。
以下是輝達發布與SpaceXAI合作內容:
代理型 AI 應用越來越依賴 CPU 來協調工具、執行程式碼、處理資料並在模型呼叫間執行模擬。SpaceXAI 將利用 Vera 加速這些應用工作負載,幫助 AI 代理更快行動,同時保持 GPU 的供應與充分利用。
SpaceXAI 計畫在 NVIDIA Vera Rubin上擴展其 AI 基礎設施,同時將優化過的 Vera Rubin NVL72 延伸至太空,搭載第一代 Starmind 衛星。
NVIDIA 超大規模與高效能運算副總裁 Ian Buck 表示:「代理型 AI 需要一種新型態的運算系統,不僅要產生答案,更要能執行行動。」
當前熱搜:反嗆陳幸妤「她沒那麼笨啦」趙建銘:貸款沒繳清她怎可能願意離婚
Ian Buck 表示:「Vera 賦予 AI 代理即時行動的 CPU 效能,執行程式碼、處理資料並協調複雜任務。SpaceXAI 正將這種架構從龐大的 AI 工廠帶到軌道運算的下一個前沿。」
SpaceXAI 總裁 Mike Nicolls 表示:「Vera 為我們提供了 CPU 效能與記憶體頻寬,能執行大量編排、程式碼與資料處理,同時讓 GPU 發揮其最擅長的功能。」「這意味著更高性能的人工智慧代理,以及每一瓦運算都能帶來更多有用的工作。」
NVIDIA Vera 代理用 CPU NVIDIA
Vera 是首款專為 AI 代理打造的 CPU,旨在加速模型推論所需的 CPU 密集型工作,從工具使用、程式碼執行到資料處理、編排與模擬。
Vera 配備 88 顆 NVIDIA 設計的 Olympus 核心、NVIDIA 空間多線程技術及高頻寬LPDDR5X記憶體,提供高達 1.2TB/s 的頻寬。Vera 在工作負載(包括代理式 AI、強化學習與資料處理)中,與 x86 CPU 相比,任務完成速度可達 1.8 倍。
SpaceXAI 與 NVIDIA Vera Rubin
共同擴展 AI 基礎設施在大規模上,AI 基礎設施必須支援嚴苛的訓練、推理與推理工作負載,同時最大化效能、能源效率與利用率。NVIDIA Vera Rubin 在運算、網路與軟體領域共同設計,旨在優化整體 AI 工廠。
該平台結合了 NVIDIA 加速運算、NVIDIA NVLink™ 互連技術、NVIDIA Spectrum-X™ 乙太網路、NVIDIA BlueField 資料處理及 NVIDIA 軟體,打造一個整合架構,旨在大規模提供高效能與能源效率,同時降低每枚代幣的成本。
隨著 SpaceXAI 擴展至吉瓦級運算能力,Vera Rubin 提供了一套通用架構,以有效擴展下一代 AI 工廠,這是 SpaceXAI 計畫將此基礎從地面資料中心延伸至軌道運算領域。
NVIDIA 加速運算:從地球到軌道
SpaceXAI 與 NVIDIA 的合作已超越地球上的 AI 工廠。SpaceXAI 正在為軌道開發 AI 運算基礎設施,因為在電力、熱管理、頻寬、可靠性及實體整合方面,與傳統資料中心有著截然不同的限制。
SpaceXAI 計畫中的第一代 Starmind AI 衛星將基於優化後的 NVIDIA Vera Rubin NVL72 機架級系統,將驅動地球次世代 AI 工廠的加速運算架構延伸至太空。
NVIDIA 與 SpaceXAI 正努力將此基礎調整以符合軌道運算的需求,同時保留 NVIDIA 共同的架構與軟體生態系統。
這在各種環境中提供了一個計算基礎:Vera CPU 加速日益複雜的 AI 代理,Vera Rubin 驅動地球上 Grok 與 Giwatt 級 AI 工廠背後的 AI 基礎設施,以及 NVIDIA 加速運算延伸至軌道 AI 基礎設施。
※Newtalk提醒您:
#投資一定有風險,投資有賺有賠,投資前應檢視自身能力,申購前應詳閱公開說明書。