DeepSeek 開源 DSpark 推論加速框架,最高可提升 LLM 輸出速度 85%
DeepSeek 於週末發布 DSpark,一套採用 MIT 授權的開源框架,專為加速大型語言模型(LLM)的推論速度而設計,且不影響模型輸出內容的準確性。DSpark 的核心技術為推測式解碼(speculative decoding):系統以一個較輕量的「草稿模型」提前預測後續 token,再由主模型快速驗證,預測準確時可大幅跳過逐步生成的瓶頸,據稱可將推論速度提升最高 85%。DeepSeek 同步釋出技術論文、模型權重,以及用於訓練與評估推測式解碼系統的程式碼庫 DeepSpec,全數公開於 GitHub 與 Hugging Face。此次發布延續 DeepSeek 以開源路線輸出基礎設施能力的策略,在美國政府陸續限制 Anthropic、OpenAI 等模型對外開放的地緣政治背景下,這類可被全球開發者自由取用的技術釋出,對亞太地區企業在推論成本控制與部署效率上具直接參考價值。
原文出處
原文標題
DeepSeek open sources DSpark, a new framework to speed up LLM inference by up to 85%
媒體來源
VentureBeat AI
發布日期
2026-06-29
閱讀原文 ↗
訂閱品富智圖 AI 新聞
每日 AI 產業要聞彙整,一封信直送信箱。
