日報
AI 產業新聞
每日更新

全球人工智慧產業每日要聞 — 由黃紹麟編選摘要,每天從 100 多則新聞精選 6 則。

79
累積集數
644
則深度解讀
6
大追蹤分類

DeepSeek 開源 DSpark 推論加速框架,最高可提升 LLM 輸出速度 85%

2026-06-30 · 來源:VentureBeat AI

DeepSeek 於週末發布 DSpark,一套採用 MIT 授權的開源框架,專為加速大型語言模型(LLM)的推論速度而設計,且不影響模型輸出內容的準確性。DSpark 的核心技術為推測式解碼(speculative decoding):系統以一個較輕量的「草稿模型」提前預測後續 token,再由主模型快速驗證,預測準確時可大幅跳過逐步生成的瓶頸,據稱可將推論速度提升最高 85%。DeepSeek 同步釋出技術論文、模型權重,以及用於訓練與評估推測式解碼系統的程式碼庫 DeepSpec,全數公開於 GitHub 與 Hugging Face。此次發布延續 DeepSeek 以開源路線輸出基礎設施能力的策略,在美國政府陸續限制 Anthropic、OpenAI 等模型對外開放的地緣政治背景下,這類可被全球開發者自由取用的技術釋出,對亞太地區企業在推論成本控制與部署效率上具直接參考價值。

原文出處
原文標題 DeepSeek open sources DSpark, a new framework to speed up LLM inference by up to 85%
媒體來源 VentureBeat AI
發布日期 2026-06-29
閱讀原文 ↗

訂閱品富智圖 AI 新聞

每日 AI 產業要聞彙整,一封信直送信箱。