隨著 AI 從聊天機器人轉向自主代理，開源模型滿足了市場對 AI 運行地點、部署方式及演進方式的完全控制需求。

今日，NVIDIA 擴展其 Nemotron 3 模型家族，推出 Nemotron 3.5 Lightning，這是同類產品中針對長時間運作的代理式 AI 工作負載效率最高的模型。此版本繼 Nemotron 3 Nano 之後發布，體現了 NVIDIA 持續改進開源模型以提高準確性和速度的承諾。

Nemotron 3.5 Lightning 是一款 300 億參數的混合專家模型，專為大型多代理系統中的專門任務而建，有助於創建更智慧、更有效率的代理式應用程式。

此外，NVIDIA 還發布了 NeMo Switchyard，這是一個用於熱門代理工具內部智慧路由的開源函式庫。企業可利用它根據自身特定需求建構路由器。部署後，NeMo Switchyard 能夠智慧地將每個請求導向最適合該任務的模型，無論是開發者自行組合的開源、專有或 NVIDIA 模型，且無需開發者重寫其應用程式。

結合 Nemotron 3.5 Lightning 和 NeMo Switchyard，無論是在個人電腦、工作站、資料中心還是雲端環境，都能更精確地控制 AI 的部署方式、運行地點以及運行效率。

現代代理式系統——始終在線的代理——越來越多地作為模型系統或模型集合運行，其中不同的模型專門用於不同的任務。

NVIDIA Nemotron 開源模型專為此架構而設計。像 Nemotron 3 Ultra 或 GPT-5.6 這樣的邊緣推理模型可以規劃和協調工作流程，而像 Nemotron 3.5 Lightning 這樣較小的專門模型則可以執行特定任務，例如程式碼審查、工具使用、安全警報監控和回答帳單問題。

NVIDIA Nemotron 3.5 Lightning 是一款完全可自訂的開源模型，專為驅動始終在線代理的高流量任務而建。它是在 Nemotron Coalition 成員的貢獻下開發的，這些成員提供了評估方法、推理軟體和數據集，以協助推動模型的進步。

與同類產品中的其他模型相比，該模型提供的輸出速度最高可快 4 倍，從而使代理式任務的完成時間縮短 30%。由於它是開源且可自訂的，Nemotron 3.5 Lightning 可以使用 NVIDIA NeMo 在組織自身的領域數據、工具和工作流程上進行後續訓練，以提高專門任務的準確性。

各行業的 AI 領導者正在為其工作負載自訂 Nemotron 3.5 Lightning，包括 CrowdStrike 用於網路安全、Harvey 搭配 Trajectory 用於法律服務，以及 CodeRabbit 搭配 Baseten 用於程式碼審查，這有助於提高領域特定代理任務的準確性。此外，Lila Sciences 正在協助提高物理和生命科學領域代理任務的推理能力，Fastino Labs 則自訂了該模型，並在軟體開發、金融和醫療保健工作負載方面取得了領先的準確性。

Nemotron 3.5 Lightning 還賦予組織對隱私和部署的控制權。它可以運行在本地 AI 系統上——包括 NVIDIA RTX PC、NVIDIA DGX Spark、NVIDIA DGX Station 和 NVIDIA Jetson——以協助使用者最大化現有基礎設施投資，或擴展到邊緣 AI 設備、NVIDIA RTX PRO 工作站、資料中心和雲端環境以滿足企業級應用。

此外，與每次 Nemotron 發布一樣，NVIDIA 會發布授權允許的訓練數據和技術，這有助於追蹤、審核和訓練其他模型。除了 Lightning，NVIDIA 還發布了 Nemotron-RL-Agentic-Terminal-Pivot，這是一個代理式強化學習數據集，用於對其進行程式碼代理功能的後續訓練。

有些模型更適合程式碼編寫，有些適合推理，有些適合輕量級任務，有些則經過優化以在本地運行，以提高隱私和效率。如果客戶依賴單一預設模型，他們可能會支出過多或損失品質；如果他們手動管理路由，這將變成整合工作，可能會減慢部署速度。

NVIDIA NeMo Switchyard 是一個用於 AI 代理的開源模型路由函式庫。該技術根據特定需求，自動將提示路由到代理工作流程每個步驟中最有能力且最高效的模型。代理應用程式開發人員可以調整或修改路由器，使用不同的路由演算法來匹配其優先級，例如品質、延遲和成本要求。在模型系統中，企業可以創建具有改進的代幣經濟學的強大 AI 代理。

內部基準測試顯示，NeMo Switchyard 在保持邊緣級準確性的同時，將任務完成成本降低到僅使用 Opus 4.8 的近三分之一。

NVIDIA 正在與 AI 生態系統中的合作夥伴合作，將智慧模型路由引入開發者已經使用的工具和平台。

Nemotron 3.5 Lightning 可在 Hugging Face、ModelScope、OpenRouter 和 build.nvidia.com 上作為 NVIDIA NIM 微服務提供，也可透過廣泛的 NVIDIA 雲端合作夥伴、後訓練平台、推理平台和雲端服務供應商生態系統取得。NeMo Switchyard 可在 GitHub 上取得，並即將在合作夥伴平台上推出。