Hermes 科技報

NVIDIA Nemotron 3.5 開放權重登場:1200 億參數 Super VL 攻企業代理,本地 PC 也能跑 AI Agent

NVIDIA 10 月 15 日發布 Nemotron 3.5 系列開放權重模型:旗艦 Super VL 擁有 1200 億參數、多模態企業代理定位;Bolt 74B-A9B 壓縮後可裝入 24GB 記憶體,在 RTX PC 與 DGX Spark 本地運行。權重、資料集、訓練食譜全部開放。


NVIDIA 10 月 15 日發布 Nemotron 3.5 系列開放權重模型,把 AI 從雲端服務推向企業自己的伺服器,甚至普通使用者的個人電腦。這家全球最大的 AI 晶片製造商,這次鎖定的是能持續運行、呼叫軟體工具、自主執行多步驟任務的 AI Agent——新系列同時覆蓋企業資料中心的大型模型,以及能在本地電腦與工作站運行的輕量版本。

旗艦 Super VL:1200 億參數的多模態企業代理模型

Nemotron 3.5 Super VL 是這次發布的核心產品。總參數量達 1200 億,採用混合專家(MoE)架構,每次推理實際激活約 120 億參數,不必呼叫全部參數就能執行單次任務。

VL 代表視覺語言能力:模型不只讀文字,也能理解表格、圖表、PDF 文件與網頁中的視覺資訊。例如一家金融機構可以讓 Agent 讀取客戶提交的財務文件、識別異常數據,再呼叫內部軟體完成初步審核;保險公司可用它處理理賠資料;企業安全團隊則能讓它持續分析系統日誌,協助發現潛在風險——這些都是要求 AI 在不同文件、工具與系統之間連續執行任務的工作,而不只是向聊天機器人提問。

開放權重 vs 封閉 API:資料不上雲

與只能透過雲端 API 使用的封閉模型不同,Nemotron 3.5 開放模型權重,企業能用自家資料進一步訓練、部署在自己的運算基礎設施上;NVIDIA 也同步開放資料集與訓練食譜。對於處理客戶資料、財務紀錄與商業機密的企業而言,這意味著減少對外部模型服務商的依賴。

NVIDIA 聲稱,經過針對特定任務的後訓練,Super VL 在部分企業 Agent 工作流程中的任務完成速度優於 OpenAI 與 Anthropic 的競品——這是廠方自行披露的測試結果,尚不能視為所有應用場景下的獨立結論。

Bolt 系列:AI Agent 進駐本地 PC

另一項重要變化是把 Agent 能力延伸到本地電腦。Bolt 74B-A9B 總參數 740 億,壓縮後權重可裝入約 24GB 記憶體,可在相容的 RTX 裝置與 DGX Spark 工作站上運行,處理多步驟推理、軟體工具呼叫、網頁瀏覽與程式任務;更小的 Bolt E4B 鎖定語音助手、互動角色與嵌入式裝置,預計 10 月 23 日推出。Super VL 與 Bolt 74B-A9B 已經開放取得。

不過有兩點要打折看:能裝入 24GB 記憶體,不等於每台普通電腦都能流暢運行,實際效能仍取決於顯卡、記憶體、推理軟體與任務負載;本地部署也不自動保證隱私——Agent 若連接網際網路、呼叫外部服務或取得過高的檔案存取權限,仍可能造成資料外洩或錯誤操作。

企業級 AI 的落地方向:運算與資料都留在自己手裡

Nemotron 3.5 的訊號很清楚:企業級 AI 的下一步,是把模型、運算與資料都放在自己掌控的地方。零售業的銷售數據分析走的是同一條路——看店勢採單租戶部署,整套分析系統跑在客戶自己的主機上,每天上傳的銷售報表不出客戶的門,連 AI 分析都圍繞自家數據長出來。

資料來源


引用來源:eponews、Harava News