NVIDIA (11日)法國巴黎宣布擴展 NVIDIA DGX Cloud Lepton,一個以全球運算市場為特色的人工智慧(AI)平台。該平台可連結開發代理型與物理 AI 應用的開發人員,且現在能從不斷增長的雲端供應商網路中獲得GPU。
Mistral AI、Nebius、Nscale、Firebird、Fluidstack、Hydra Host、Scaleway 和 Together AI 現在正將 NVIDIA Blackwell 和其他 NVIDIA 架構 GPU 投入市集,進一步擴大各地區對於高效能運算的存取。AWS與 Microsoft Azure 將成為首批參與 DGX Cloud Lepton 的大型雲端服務供應商。這些公司將與 CoreWeave、Crusoe、Firmus、鴻海科技集團、GMI Cloud、Lambda 和 Yotta Data Services 一起加入 DGX Cloud Lepton 市集。
話題延燒:製造快10 倍!NVIDIA建全球首座工業AI雲 「這幾款名車」搶先導入
為了讓全球 AI 社群更容易使用加速運算,Hugging Face 推出訓練集群即服務(Training Cluster as a Service)。這款新產品與 DGX Cloud Lepton 整合,將打造基礎模型的 AI 研究人員和開發人員與 NVIDIA 運算生態系順暢連接。
NVIDIA 也與領先的歐洲創投公司 Accel、Elaia、Partech 和 Sofinnova Partners 合作,為投資組合公司提供 DGX Cloud Lepton 市集點數,讓新創公司能夠存取加速運算資源並推動區域發展。
NVIDIA 創辦人暨執行長黃仁勳表示:「DGX Cloud Lepton 將歐洲開發人員連接到全球 AI 基礎架構。我們正在與歐洲的合作夥伴打造 AI 工廠網路,讓開發人員、研究人員和企業可加以利用,將當地的突破性發展轉化為全球創新。」
DGX Cloud Lepton 將NVIDIA 運算生態系上的雲端 AI 服務與 GPU 容量整合至單一平台,簡化了特定區域存取可靠且高效能 GPU 資源的流程。這讓開發人員能將資料保留在本地,支持資料治理和主權 AI 需求。
此外,透過與NVIDIA NIM和 NeMo微服務等 NVIDIA 軟體套件整合,以及 NVIDIA Cloud Functions,DGX Cloud Lepton 簡化並加速了任何規模的 AI 應用開發和部署的每個階段。此市集與全新的 NVIDIA NIM微服務容器搭配使用,支持各種大型語言模型,包括最受歡迎的開放式大型語言模型架構,以及超過一百萬個在 Hugging Face 公開和私人託管的模型。
對於雲端供應商,DGX Cloud Lepton 包含管理軟體,可即時監控 GPU 健康狀況並自動進行根本原因分析,最大程度減少人工干預並縮短停機時間。這樣簡化供應商的營運,並確保客戶能更可靠地使用高效能運算。
NVIDIA DGX Cloud Lepton 加速訓練與部署
DGX Cloud Lepton 的早期使用者,使用該平台加速其策略性 AI 計劃,包括:
Basecamp Research 正在加速探索和設計製藥、食品以及工業與環境生物技術的新生物解決方案,利用其98億個蛋白質資料庫,預先訓練及部署大型生物基礎模型。
安永正在將全球機構的多雲端存取方式標準化,加速開發特定領域和部門解決方案的 AI 代理。
Outerbounds讓客戶能夠打造具差異化的生產級 AI 產品,並採用開源 Metaflow 的可靠性。
Prima Mente 透過預先訓練大型腦基礎模型,探索全新的疾病機制和工具,在臨床環境中對患者結果進行分層,大規模促進神經退化性疾病研究。
Reflection正在打造超級智慧自主程式開發系統,可處理最複雜的企業工程任務。
Hugging Face 開發員 可在多雲端環境上使用可擴充AI 訓練
DGX Cloud Lepton 與 Hugging Face 的訓練叢集即服務產品整合,能讓 AI 打造者更順暢地使用 GPU 市集,在靠近訓練資料的指定區域輕鬆預留、存取及使用 NVIDIA 運算資源。Hugging Face 客戶串連全球雲端供應商網路,可快速確保使用 DGX Cloud Lepton 進行訓練所需的 GPU 容量。
Mirror Physics、Project Numina 和 Telethon 遺傳學與醫學研究所將是首批使用訓練叢集即服務的 Hugging Face 客戶,並透過 DGX Cloud Lepton 提供運算資源。他們將運用該平台推動化學、材料科學、數學和疾病研究方面的最先進 AI 模型。
Hugging Face 共同創辦人及執行長 Clément Delangue 表示:「取得大規模高效能運算資源,對於在每個領域和語言打造新一代 AI 模型至關重要。DGX Cloud Lepton 與訓練叢集即服務平台整合,將為研究人員和公司消除障礙,釋放訓練最先進模型的能力,並突破 AI 的極限。」
DGX Cloud Lepton 推動 AI 新創生態系
NVIDIA 正與 Accel、Elaia、Partech 和 Sofinnova 合作夥伴合作,透過DGX Cloud Lepton為符合條件的投資組合公司提供價值高達10萬美元的 GPU 容量點數與 NVIDIA 專家支持。
BioCorteX、Bioptimus 和 Latent Labs 將率先使用 DGX Cloud Lepton,可在該平台探索和購買運算資源,並運用 NVIDIA 軟體、服務和 AI 專業知識,在全球雲端供應商網路打造、客製化及部署應用程式。