LogoAIRosetta

NVIDIA發佈開源大模型Nemotron 3 Super:120B參數混合架構,性能直逼GPT-5.4,Agentic AI新時代啟動

NVIDIA

SummaryNVIDIA發佈開源大模型Nemotron 3 Super,120B總參數(12B活躍),採用Mamba-Transformer-LatentMoE混合架構,支援1M token上下文並顯著提升推理吞吐,Agentic任務表現接近或超越GPT-5.4,權重與訓練配方全面開源。

NVIDIA唔滿足淨係造工具,直接落場造「車」喇。2026年3月11日,喺GTC大會前夕,NVIDIA正式發佈Nemotron 3 Super,一款120B總參數(12B活躍參數)嘅開源大語言模型。該模型採用混合Mamba‑Transformer‑MoE(LatentMoE)架構,專為多智能體(Agentic AI)應用優化,喺推理速度、吞吐量同複雜任務處理上達到行業領先水平。NVIDIA官方技術博客同Hugging Face模型頁面清楚表示,Nemotron 3 Super喺多個Agentic基準上表現接近甚至局部超越GPT‑5.4,同時以完全開源形式(權重、數據集、訓練配方全部開放)釋出俾開發者。呢個發布標誌住NVIDIA由GPU硬件霸主向開源大模型生態建設者嘅戰略轉型,亦為全球AI社群提供高性能、多智能體時代嘅實用基礎設施。

Nemotron 3 Super係Nemotron 3系列嘅第二款模型(繼2025年12月發佈嘅Nano之後),設計目標直指「高精度、多智能體協作場景」。NVIDIA研究團隊喺技術報告中強調,該模型喺保持高準確率嘅同時,實現高達5倍嘅推理吞吐量提升,特別適合軟件開發、IT運維、網絡安全、複雜工作流自動化等需要多個Agent協同嘅場景。Hugging Face上該模型喺發佈24小時內下載量已突破數十萬次,迅速登頂開源模型榜單。

核心特點:混合架構與高效設計

Nemotron 3 Super最大亮點係其混合架構(Hybrid Mamba‑Transformer‑MoE),呢係NVIDIA第一次將三種前沿技術深度融合:

  • LatentMoE(新型專家混合機制):唔同於傳統MoE(激活參數固定),LatentMoE透過動態專家路由同隱式表示,實現「高精度 + 低活躍參數」嘅平衡。模型總參數120B,但每次推理淨係激活12B參數,顯著降低內存佔用同計算成本。技術報告顯示,呢個設計喺相同FLOP下比傳統MoE準確率提升超過15%。
  • Mamba‑2 + Transformer混合:結合Mamba嘅狀態空間模型(高效長序列處理)同Transformer嘅注意力機制,解決傳統模型喺長上下文下嘅「上下文爆炸」問題。模型原生支援1M token上下文窗口,遠超大多數開源模型,能輕鬆處理超長文檔、代碼庫或多輪Agent對話歷史。
  • Multi‑Token Prediction(MTP)層:新增多token預測機制,支援原生推測解碼(speculative decoding),進一步加速推理速度。NVIDIA官方基準顯示,喺8K輸入/64K輸出場景下,Nemotron 3 Super嘅吞吐量達到GPT‑OSS‑120B嘅2.2倍、Qwen3.5‑122B嘅7.5倍。

此外,模型採用NVFP4低精度預訓練,喺訓練階段就實現穩定收斂,大幅降低訓練成本。NVIDIA仲開源咗完整訓練數據集(25萬億token,分兩階段)同配方,開發者可以直接喺自家集群上復現或微調。

性能表現:直逼GPT‑5.4,Agentic任務領先

NVIDIA同第三方基準測試(Artificial Analysis、PinchBench等)顯示,Nemotron 3 Super喺Agentic AI關鍵指標上表現突出:

  • 智能度基準:MMLU‑ProX、WMT24等多語言任務得分接近GPT‑5.4,部分Agentic場景(例如工具調用、長對話)甚至持平或微幅超越。
  • Agentic專用基準:喺PinchBench(OpenClaw等Agent框架測試)上得分85.6%,成為開源模型中最高。
  • 推理速度與效率:輸出速度高達478 tokens/s(Artificial Analysis數據),遠超同規模開源模型。喺多Agent協作場景下,延遲同吞吐量優勢尤為明顯。
  • 語音與長上下文:喺長對話語音Agent基準中,與GPT‑5.4同GPT‑4.1表現相當,適合實時客服、會議總結等應用。

NVIDIA強調,Nemotron 3 Super唔係追求「最大參數」,而係「最優效率」。佢喺企業級多智能體系統中表現出色,例如IT票據自動化、網絡安全分診、複雜軟件開發等工作流。

開源策略與生態意義

同好多閉源模型唔同,Nemotron 3 Super採用完全開放許可(NVIDIA Open Model License),權重、數據集、訓練代碼、推理優化全部開源。開發者可以喺Hugging Face、NVIDIA NIM、Together AI等平台立即部署,並支援商業使用。呢個做法承襲咗NVIDIA此前Nemotron系列嘅路線,目的係構建開放、高效嘅Agentic AI生態。

對行業嘅影響好明顯:

  • 降低企業門檻:中小企業唔需要買昂貴閉源API,就可以部署高性能Agent系統。
  • 加速多智能體應用:為OpenClaw、CrewAI等框架提供強大開源大腦,推動Agentic AI由概念走向大規模落地。
  • 中國開發者機遇:國產模型(例如Qwen、DeepSeek)可以參考佢嘅混合架構,進一步提升效率同開源競爭力。

潛在挑戰與未來展望

儘管優勢明顯,Nemotron 3 Super仍然存在局限:模型規模較大(120B),對消費級硬件部署仍有壓力;部分高難度推理任務仍落後於GPT‑5.4頂級閉源版;開源許可雖然寬鬆,但喺商業部署時需注意合規細節。

NVIDIA計劃喺2026年下半年推出Nemotron 3 Ultra(更大規模版本),並持續優化推理引擎。結合GTC大會即將發佈嘅硬件支援,Nemotron 3系列有望成為Agentic AI時代嘅「開源標桿」。

結語:開源Agentic AI嘅加速器

NVIDIA Nemotron 3 Super嘅發佈,以120B混合架構同高效率Agentic能力,直逼GPT‑5.4等前沿閉源模型。佢唔單止為開發者提供強大工具,仲以完全開源姿態推動整個行業向高效、多智能體方向演進。

喺AI由單一模型向協作智能體轉型嘅2026年,Nemotron 3 Super嘅出現,標誌住開源社群同大廠硬件優勢嘅深度融合。將來,邊個掌握高效嘅Agentic基礎設施,就有機會喺AI應用落地競賽中佔先機。而NVIDIA嘅呢一步,或者正係開源大模型新時代嘅又一重要里程碑。

▶️ 喜歡呢篇內容?創作真係好辛苦!

歡迎關注我哋嘅 YouTube 頻道:
AI Rosetta

你嘅讚好、訂閱同分享,係對我哋最大嘅支持!🙏

更多AI新聞請瀏覽:https://www.airosetta.com

CopyrightStatement

Comment

Please login before commenting

NoComments

RelatedNews

LoadingMore

NVIDIA發佈開源大模型Nemotron 3 Super:120B參數混合架構,性能直逼GPT-5.4,Agentic AI新時代啟動 - Airosetta News