NVIDIA 在 2026 年 10 月 15 日發表 Nemotron 3.5 系列的兩款開源模型：Nemotron 3.5 Super VL 與 Nemotron 3.5 Bolt 74B-A9B 24GB。Super VL 總參數 1,200 億、每次運算只啟用約 120 億參數，能同時看懂文字、圖片、PDF 與影片，NVIDIA 把它定位為企業「常駐型 AI 代理」的核心模型。Bolt 則是從 Super VL 壓縮而來，總參數 740 億、啟用 90 億，靠原生 2 位元量化把模型縮到約 24GB，讓一般 RTX 電腦與 RTX Spark 筆電也能在本機執行網路研究、寫作、除錯等代理任務。兩款模型都開放權重，授權為可商用的 OpenMDW-1.1。對台灣企業來說，這代表兩條新路：一條是把 AI 代理放進自家機房或私有雲，另一條是讓單台電腦就跑得動代理，敏感資料不必送到外部雲端。本文依 NVIDIA 官方部落格、技術部落格與 Hugging Face 模型頁，整理規格、適用情境與導入注意事項。
Nemotron 3.5 是什麼？這次發表了哪些模型？
Nemotron 是 NVIDIA 自家的開源模型家族，特色是除了模型權重之外，也公開訓練資料集、訓練方法與強化學習環境，讓企業可以自行微調。NVIDIA 先前已推出 Nemotron 3 系列（包括 Super 與 Ultra 等模型），2026 年 8 月推出 Nemotron 3.5 Lightning，這次 10 月 15 日則補上 Nemotron 3.5 家族中最受企業關注的兩款：負責重型工作的 Super VL，以及主打本機執行的 Bolt。另外，NVIDIA 也預告一款只需約 4GB 記憶體的 Bolt E4B，預計 10 月 23 日推出，定位為反應快速的對話代理，適合語音助理與嵌入式介面。
依 NVIDIA 官方部落格說明，Super VL 是與 Nemotron Coalition（NVIDIA 號召多家 AI 實驗室組成的開源模型聯盟）合作開發，預訓練與持續預訓練使用約 26 兆個 token，後訓練使用約 380 萬筆樣本，並在數十個模擬環境中做強化學習。NVIDIA 宣稱它的能力接近自家最大的推理模型，但參數量只有約五分之一。技術部落格也說明，Super VL 是由 Nemotron 3 Ultra 蒸餾而來。
一句話看懂 Nemotron 3.5
Super VL 是給企業機房或雲端用的「全天候工作代理」，Bolt 是把同一套能力壓縮到 24GB、讓一台電腦就能跑的「本機代理」，兩者都開放權重、可商用。
Nemotron 3.5 Super VL 與 Bolt 規格有什麼差別？一張表看懂
以下依 Hugging Face 模型頁與 NVIDIA 研究頁整理兩款模型的主要規格。數字以官方模型卡為準，實際可用的上下文長度會受部署環境的記憶體限制。
| 項目 | Nemotron 3.5 Super VL | Nemotron 3.5 Bolt 74B-A9B 24GB |
|---|---|---|
| 總參數／啟用參數 | 120B／12B | 74B／9B |
| 架構 | Mamba-2 與 Transformer 混合的 MoE 架構 | 同系列混合架構，由 Super VL 壓縮而來 |
| 輸入格式 | 文字、圖片、影片（MP4 建議約 2 分鐘內） | 文字與圖片（含視覺編碼器） |
| 上下文長度 | 最長 100 萬 token | 最長 25.6 萬 token |
| 量化格式 | NVFP4（4 位元） | 2 位元為主（IQ2），部分層用 NVFP4 與 8 位元 |
| 模型大小 | 官方未公布具體 GB 數 | 約 24GB |
| 官方列出硬體 | 1 台 DGX Spark、1 張 H200、2 張 H100 或 1 張 GB200 | RTX Spark 筆電、DGX Spark、GeForce RTX 電腦、RTX PRO 工作站 |
| 取得管道 | Hugging Face、ModelScope、OpenRouter、NVIDIA NIM | Hugging Face，支援 llama.cpp、Ollama、LM Studio、Unsloth、vLLM |
| 授權 | OpenMDW-1.1，可商用 | OpenMDW-1.1，可商用 |
Super VL 的重點：快、看得懂文件、適合長時間工作
Super VL 每個 MoE 層有 512 個專家，每次只挑一小部分運算，所以 1,200 億參數的模型，實際運算量接近 120 億參數的模型。NVIDIA 表示，在同級開源模型中，Super VL 的代理任務吞吐量最高可達次佳者的 5 倍；搭配 NVIDIA Dynamo 推論框架時，可服務的使用者數最多提升 8 倍，首字延遲降低 85%。這些數字都是 NVIDIA 在自家硬體上的測試結果，企業實際效能仍要以自己的環境測試為準。
模型卡公布的評測成績中，幾項跟企業工作相關的數字值得參考：SWE-bench Verified（修正真實程式錯誤）71.1 分、OSWorld-Verified（操作電腦介面）51.14 分、CharXiv（圖表推理）80.82 分、OCRBench v2 英文（文件辨識）68.12 分。技術部落格也提到，在 Hermes Bench 代理評測中，Super VL 拿到 63.44%，高於上一代 Nemotron 3 Ultra 的 56.33%。
Bolt 的重點：24GB、本機、可以和其他程式同時執行
Bolt 的做法是先用 NVIDIA 稱為 Star Elastic 的方法，把 Super VL 每次啟用的專家數從 22 個減到 9 個，再做原生 2 位元量化，並在訓練時用量化感知蒸餾把精準度補回來。官方說法是「讓模型放進 24GB 記憶體，並能和其他應用程式同時執行」。NVIDIA 研究頁設定的目標是每秒至少 80 個 token，在 RTX Spark 上實測約 84 個 token。
在評測方面，Bolt 在 PinchBench 拿到 87.82 分，NVIDIA 表示在同級開源模型中排名第一；BrowseComp（網頁研究）66.75 分，在開源模型中排名第二。不過研究頁的速度表也顯示，Bolt 的解碼速度略慢於 Qwen3.6 35B-A3B 與 Gemma 4 26B-A4B，NVIDIA 主打的是「同樣記憶體下更準確」，不是「最快」。
常駐型 AI 代理是什麼？Nemotron 3.5 Super VL 能做哪些事？
一般的 AI 聊天是「你問一句、它答一句」。常駐型 AI 代理（always-on agent）則像一位全天候值班的助理：它持續監看資料、自動接手任務、呼叫工具、完成後再把結果交給人確認。這種工作型態需要模型同時具備三種能力：長時間推理不走偏、看得懂各種格式的文件、運算成本夠低才能 24 小時開著。Super VL 的設計正好對準這三點。
NVIDIA 官方部落格列出的應用情境包括：
- 保險理賠：掃描理賠文件，標記可能的詐欺案件。
- 金融信貸：協助審查貸款申請資料。
- 資安：持續分析告警與日誌。
- 醫療理賠與收入循環管理：處理大量單據與申報。
- 程式開發代理：修正錯誤、撰寫測試。
- 科學研究搜尋：整理文獻與資料。
另外，Atlassian、CrowdStrike、Dassault Systèmes、Perplexity、Salesforce、Synopsys 等軟體平台也宣布整合 Nemotron 模型。換句話說，未來企業不一定要自己部署，也可能在既有的 SaaS 工具裡間接用到它。
如果想先了解「全天候代理」這種工作型態，可以參考本站的 OpenAI dots 全天候 AI 代理解析。兩者的差別在於：雲端服務是租用別人的代理，Nemotron 3.5 則是讓企業拿到模型本身，自行決定要放在哪裡、處理哪些資料。
Nemotron 3.5 Bolt 在本機 24GB 執行，對中小企業有什麼意義？
對台灣中小企業來說，Bolt 最大的意義是「AI 代理的硬體門檻往下掉了一大截」。過去要跑 700 億參數等級的模型，通常需要多張資料中心等級的 GPU；Bolt 把總參數 740 億的模型縮到約 24GB，讓單台高階電腦就有機會執行。
硬體門檻：要準備什麼樣的電腦？
NVIDIA 官方列出的執行平台是 RTX Spark 筆電（10 月 16 日上市）、DGX Spark、GeForce RTX 電腦、DGX Station 與 RTX PRO 工作站。要特別注意三件事：
- 官方公告沒有列出具體的 GeForce 顯卡型號，也沒有說明最低顯示記憶體需求。「24GB」指的是模型本身大小，實際執行時還要加上上下文快取等額外記憶體，模型卡也說明會依記憶體大小使用較短的上下文。
- Hugging Face 上的 vLLM 版本，官方列出的是 A100、H100 或 Blackwell 世代 GPU 與 Linux 系統，屬於伺服器用途；一般電腦比較適合用 GGUF 版本搭配 Ollama 或 LM Studio。
- 採購前建議先用現有設備小量測試，確認速度與準確度符合需求，再決定是否添購新機。
如果還在評估要不要導入 AI PC，可以參考本站的 NVIDIA RTX Spark 與 AI PC 本機執行解析。
資料不外流：本機代理適合哪些資料？
本機執行的最大好處，是資料不必離開公司電腦。客戶名單、報價單、合約草稿、內部財報、研發文件，這些不適合上傳到外部雲端的資料，都可以讓本機代理處理。對有個資法遵壓力的產業，例如診所、會計師事務所、保險經紀、製造業研發部門，本機代理是比較容易說服管理層的選項。
但「本機」不等於「絕對安全」。代理如果被允許連網搜尋、讀寫檔案或執行指令，仍可能把資料帶出去或誤刪檔案。權限設計、操作紀錄與人工確認仍不能省略，相關做法可參考本站整理的 AI 代理安全清單。
Nemotron 3.5 Super VL 和 Bolt 該怎麼選？
兩款模型不是互相取代，而是分工。簡單的判斷方式是看「誰要用、用多久、資料在哪裡」。
| 評估條件 | 建議選 Super VL | 建議選 Bolt |
|---|---|---|
| 使用規模 | 整個部門或多人同時使用 | 個人或小組在單台電腦使用 |
| 執行時間 | 24 小時常駐、自動接手任務 | 需要時開啟，處理日常工作 |
| 資料類型 | 大量 PDF、圖表、掃描文件、影片 | 一般文件、網頁研究、程式除錯 |
| 硬體條件 | 有資料中心 GPU、DGX Spark 或雲端預算 | 已有或準備添購高階 RTX 電腦 |
| 資料敏感度 | 放在私有雲或自家機房 | 資料完全留在個人電腦 |
| 上下文需求 | 需要一次讀入非常長的資料（最長 100 萬 token） | 中等長度即可（最長 25.6 萬 token） |
實務上，很多企業會兩者並用：Super VL 部署在伺服器或雲端，負責理賠審查、資安監控這類全天候流程；Bolt 放在業務、研發、財務同仁的電腦上，處理個人的研究與文書工作。若暫時沒有硬體，也可以先透過 OpenRouter 或雲端合作夥伴（例如 Amazon SageMaker JumpStart、Microsoft Foundry、Together AI、Fireworks AI）試用 Super VL，確認效果後再決定是否自建。要注意的是，透過第三方雲端服務使用時，資料仍會送到該服務商，不具備本機執行的資料不外流優勢。
台灣企業可以怎麼評估與導入 Nemotron 3.5？
以顧問角度來看，Nemotron 3.5 最適合的不是「全公司一次換掉現有 AI 工具」，而是挑一兩個流程做小規模驗證。以下是幾個具體情境：
- 財會部門：讓 Bolt 在本機比對供應商發票、對帳單與採購單，標出金額不一致的項目，交由會計人員確認。資料不出電腦，適合內控要求嚴格的公司。
- 業務部門：業務人員用 Bolt 整理客戶官網、產業新聞與過去往來紀錄，產出拜訪前的重點摘要。
- 客服與理賠：用 Super VL 讀取客戶上傳的照片、單據與 PDF，先做分類與欄位擷取，再轉給專人處理。
- 資訊部門：讓 Super VL 常駐分析伺服器日誌與資安告警，夜間先做初步判讀，隔天早上由工程師複核。
- 研發與製造：工程師用 Bolt 在本機查詢技術文件、協助程式除錯，避免原始碼外流。
評估時建議依照四個步驟進行。第一，挑一個耗時、重複、規則清楚的任務。第二，依資料敏感度與使用人數決定用 Super VL 或 Bolt。第三，用 20 到 50 筆真實案例測試，記錄正確率、速度與人工修正時間。第四，訂出權限範圍、操作紀錄與人工確認的規範，再擴大使用。
如果團隊還不清楚哪些流程適合交給 AI 代理，可以先做一次免費的 AI 企業健診，盤點適合導入的工作與資料風險。若已決定試用，讓同仁實際操作 Ollama、LM Studio 等本機工具，並學會如何驗收 AI 產出，是導入成敗的關鍵，這部分可以透過 企業 AI 內訓 依部門需求安排實作課程。
Nemotron 3.5 的授權與部署要注意什麼？
開源模型「免費下載」不代表「沒有成本與責任」。導入 Nemotron 3.5 之前，建議先確認以下幾點：
- 授權條款：Hugging Face 模型頁標示兩款模型採用 OpenMDW-1.1 授權，並寫明可用於商業與非商業用途。OpenMDW 是 Linux 基金會在 2026 年推出的 AI 模型授權，涵蓋權重、文件與資料。但第三方轉檔、微調或重新包裝的版本，授權可能不同，應以實際下載檔案的授權說明為準，大型或受監管的部署建議請法務審閱全文。
- 下載來源：優先從 NVIDIA 官方的 Hugging Face 帳號或 ModelScope 官方頁面下載，避免來路不明的修改版本。
- 成本計算：模型權重免費，但硬體、電費、維運人力都是成本。NVIDIA NIM 的企業支援需透過 NVIDIA AI Enterprise 取得，費用官方未在這次公告中公布；透過 OpenRouter 或雲端平台使用則依各平台計價。
- 語言能力：Bolt 模型卡列出的輸入語言包含中文，但同時說明英文與程式語言是主要語言。繁體中文與台灣用語的表現，建議用自家文件實測。
- 量化取捨：2 位元量化讓 Bolt 能放進 24GB，但仍是壓縮後的版本。對準確度要求高的任務，例如財務數字、法規判讀，一定要保留人工複核。
- 版本更新：開源模型更新頻繁，部署後要有人負責追蹤新版本與安全公告。
常見問題
Nemotron 3.5 可以免費商用嗎？
可以。依 Hugging Face 模型頁，Super VL 與 Bolt 都採用 OpenMDW-1.1 授權，標示可用於商業或非商業用途，權重可免費下載。不過硬體、雲端算力與維運仍有成本，第三方修改版本的授權也可能不同，使用前應確認實際檔案的授權說明。
一般辦公室電腦可以跑 Nemotron 3.5 Bolt 嗎？
一般文書電腦不行。Bolt 模型本身約 24GB，NVIDIA 列出的平台是 RTX Spark 筆電、DGX Spark、GeForce RTX 電腦與 RTX PRO 工作站，屬於高階設備。官方未公布具體顯卡型號與最低記憶體，建議先用現有高階設備測試後再採購。
Nemotron 3.5 Super VL 和 Bolt 最大的差別是什麼？
Super VL 是 1,200 億參數的完整版，支援影片輸入與最長 100 萬 token 的上下文，適合部署在伺服器或雲端做全天候代理。Bolt 是由 Super VL 壓縮而來的 740 億參數版本，約 24GB，適合在單台電腦本機執行日常代理任務。
Nemotron 3.5 支援繁體中文嗎？
Bolt 模型卡列出的輸入語言包含中文，Super VL 的訓練資料涵蓋英文與另外 19 種語言。但官方強調英文與程式語言是主要語言，繁體中文的實際表現尚無官方評測數字，建議用自家文件測試。
沒有 GPU 的企業可以先試用嗎？
可以。Super VL 已上架 OpenRouter，也能透過 Amazon SageMaker JumpStart、Microsoft Foundry 等雲端平台使用。要留意的是，透過雲端服務使用時資料會送到服務商，若重視資料不外流，最終仍需評估本機或私有部署。
資料來源
- NVIDIA 官方部落格：Nemotron 3.5 Super VL 與 Bolt 發表公告
- NVIDIA 技術部落格：NVIDIA Nemotron 3.5 Super VL Powers Specialized Agents With Multimodal Reasoning
- Hugging Face：NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4 模型頁
- Hugging Face：NVIDIA-Nemotron-3.5-Bolt-74B-A9B-24GB 模型頁
- NVIDIA Research：Nemotron 3.5 Bolt 24GB
- Linux Foundation：Linux Foundation Releases OpenMDW 1.1, NVIDIA Adopts OpenMDW
想知道公司哪些工作可以交給 AI？
台灣人工智慧網路（Ai.com.tw）提供免費 AI 企業健診、老闆 AI 經營講座、企業 AI 內訓與 AI 員工系統建置，以及一站式的 AI 管理系統－管理王，協助企業把 AI 真正用進日常工作。
免付費電話：0800-003-191 ｜ LINE ID：@119m
