日報
AI 產業新聞
每日更新

全球人工智慧產業每日要聞 — 由黃紹麟編選摘要,每天從 100 多則新聞精選 6 則。

95
累積集數
738
則深度解讀
6
大追蹤分類

輝達新發Nemotron 3.5與路由器,賣模型轉為賣整條AI工作流

2026-08-13 · 來源:163
幫你做功課
發生什麼事

輝達發布輕量模型Nemotron 3.5 Lightning(300億參數,推理僅用30億)與開源路由器NeMo Switchyard;Lightning輸出速度快4倍,智能體任務提速30%,Intelligence Index得分24,追平OpenAI gpt-oss-120b。

為什麼重要

輝達正從賣芯片轉為賣整條AI工作流:不論企業最終用誰的模型,只要跑在其路由與部署體系裡,輝達都能抽成,這也讓它一邊投資OpenAI、一邊用Nemotron搶其企業客戶的矛盾變得不再零和。

每天精選 6 則要聞、一則產業名人訪談,五分鐘跟上。

輝達這次一口氣端出兩個東西:一個叫Nemotron 3.5 Lightning的輕量模型,一個叫NeMo Switchyard的智能體路由器。前者不是拿來跟前沿大模型拼智商的,它是拼速度、拼便宜的——300億參數的混合專家模型,單次推理只動用約30億,輸出速度號稱快4倍,智能體任務完成速度快30%。定位很清楚:大模型負責想,Lightning負責做,代碼審查、安全監控、數據處理這類重複性工作丟給它。第三方評測Artificial Analysis給它Intelligence Index打24分,追平OpenAI的gpt-oss-120b,代理任務評測甚至超過自家更大的Nemotron 3 Super。

但這裡有個落差得說清楚:輸出快4倍不等於任務快4倍。模型推理只是智能體工作流裡的一環,工具調用、API響應、多智能體之間的任務編排照樣會卡住,所以實際提速被壓縮到30%。這正是Switchyard存在的理由——單個模型跑得快沒用,得知道每一步該用哪個模型。這個開源路由庫會根據質量、延遲、成本,把每一個請求動態分配給當下最合適的模型,英偉達已經拉了Boomi、Cadence、Cognition、Kong、LangChain等一批生態夥伴接入。

真正值得記一筆的是定制成本。CodeRabbit用輝達標準配方訓練一個epoch,兩小時、85美元,就做出一個路由智能體;有夥伴用單張H100卡就完成訓練,晚上跑、早上取。這把後訓練從工程活變成了家電操作——按下啟動鍵就好。當定制門檻低到這種程度,企業自建專屬小模型的意願只會上升,而這些模型全部跑在輝達的硬件和路由體系裡。

這盤棋的真正意圖在於:輝達正在把自己從賣芯片的,變成賣整條AI工作流的。它一邊靠300億美元投資綁定OpenAI這樣的前沿客戶,一邊又用Nemotron家族(下一代Nemotron 4據報參數量將破1萬億)給企業提供更便宜的替代選項,直接跟自己最大的客戶搶生意。邊界模糊,但輝達不虧——只要模型跑在它的路由、推理和部署體系裡,不管企業最後選誰的模型,它都能從整條工作流裡抽成。Arena首席執行官Angelopoulos那句話說得直白:誰做出好的開源模型都無所謂,輝達都是贏家。開源生態越亂、越熱鬧,GPU的需求只會越旺。這才是Switchyard和Nemotron 3.5同時發布的真正算盤。

電子報訂閱 ・ NEWSLETTER

看完今天的,讓明天的自己送上門

每天精選 6 則要聞、一則產業名人訪談,五分鐘跟上。

已出刊 95 期 ・ 隨時可退訂

原文出處
原文標題 从卖芯片到卖整个AI工作流:英伟达发布Nemotron 3.5与模型路由器
媒體來源 163
發布日期 2026-08-12
閱讀原文 ↗