隨著企業加速導入人工智慧(AI)代理(AI Agents),NVIDIA宣布旗下 Nemotron 3 Ultra 已與全球規模最大、應用最廣泛的AI代理編排平台LangChain完成深度整合,透過工程化最佳化(Engineering Optimization),在無須重新訓練模型的情況下,大幅提升代理效能,並以不到頂尖封閉式模型十分之一的推論成本,提供領先的商業應用表現。

根據LangChain公布的Deep Agents基準測試(Benchmark),經過調校的Nemotron 3 Ultra已成為開放式模型中準確率最高的AI代理模型之一,不僅完成更多任務、具備更高的推論輸送量(Throughput),在商業工作流程中的整體表現更與目前評分最高的封閉式AI模型並駕齊驅。

當前熱搜:國台辦批谷立言「太上皇」 林濁水:台灣竟靠此恥辱保國安全

值得注意的是,此次效能提升並非透過模型微調(Fine-tuning)或重新訓練,而是完全來自模型周邊環境(Harness)的工程優化,包括系統提示(System Prompt)、工具描述(Tool Description)及中介軟體等設計調整,展現AI代理架構工程的重要性。

LangChain表示,採用Nemotron 3 Ultra後,企業可在僅十分之一的推論成本下持續執行模型評估、快速進行AI代理實驗,並將專用代理擴展至更多業務流程,加速企業AI應用落地。

LangChain 共同創辦人暨執行長 Harrison Chase 表示:「打造更優秀代理的關鍵,在於持續改善模型周邊的系統。當團隊能同步調校記憶、工具使用、評估與模型行為時,這些能力將產生協同效應。我們與 NVIDIA 的合作顯示,企業不但能透過開放堆疊取得強大效能,同時也能對其所建構的代理系統保持掌控權。」

當前熱搜:強颱巴威進逼!基隆暴風侵襲率達100% 「這15縣市」有機會放颱風假

目前,LangChain代理工程平台每月下載量已突破2億次。此次針對Nemotron 3 Ultra調校完成的Deep Agents Harness,也將同步開放給所有開發者使用,讓企業能以完整的開放式AI堆疊,建立可自主掌控、客製化且能部署於任何環境的AI代理系統。包括Abridge、Amdocs及Box等企業,已將專用AI代理直接整合至自家平台;全球系統整合商安永(EY)則正以NVIDIA推出的NemoClaw for LangChain Deep Agents參考藍圖為基礎,擴展其NVIDIA AI部署能力,協助企業客製化、評估及治理高價值工作流程中的AI代理。

另一方面,NVIDIA創辦人暨執行長黃仁勳近期也與Harrison Chase公開對談,探討企業AI在過去半年快速成熟的原因,認為AI正由傳統問答助手,逐步進化為可直接操作企業核心系統、執行任務的智慧代理,企業AI應用也因此邁向全新階段。

NVIDIA同步推出NemoClaw for LangChain Deep Agents開放式參考藍圖,整合經調校的Nemotron 3 Ultra模型、LangChain Deep Agents程式碼,以及可安全執行代理操作的NVIDIA OpenShell執行環境,提供企業建立完整AI代理平台的基礎架構。

NVIDIA表示,開放模型、開放Harness及開放安全執行環境,讓企業得以端到端掌握整個AI代理堆疊,依據自身工作流程與專業知識持續優化系統,並可部署於自有資料中心、私有雲或企業治理架構之中。

隨著AI代理逐漸承擔更高風險與更高價值的企業工作,能否兼顧效能、成本、安全與自主掌控,將成為企業AI競爭力的重要關鍵。此次NVIDIA與LangChain的合作,也展現開放式AI生態系正逐步具備挑戰封閉式大型模型的實力,為企業打造更具成本效益且可持續發展的AI代理解決方案。