DeepSeek降價75%未解企業成本困局:Agent工作流的百倍Token消耗問題
幫你做功課
三句話說明發生什麼事
- DeepSeek將V4-Pro模型定價下調75%,但企業AI廠商發現更低的模型價格未自動帶來更健康的利潤率。
- Agent系統將單一用戶請求拆解為規劃、檢索、工具呼叫、驗證、摘要等多個步驟,每個步驟均產生可計費的Token消耗,形成「100倍問題」。
- OpenAI據報擬向Y Combinator旗下新創提供每家200萬美元的API額度,顯示推論成本在規模應用後的實際量級遠超早期預期。
三句話說明這事的意義
- Token單價下滑與工作流Token消耗量增長之間的剪刀差,意味著企業在Agent化轉型過程中邊際成本不降反升,商業模式需要重新設計。
- 「推論成本終將可忽略不計」的假設已被打破,任何以Agent為核心的AI產品在定價與毛利規劃上,都必須以工作流整體成本而非單次呼叫成本為基準。
- 對亞太地區正評估導入Agent方案的決策者而言,選型時不應只看模型定價,而應要求供應商提供典型工作流的完整Token消耗估算,避免在規模化後才發現成本失控。
DeepSeek近期將旗艦模型V4-Pro定價大幅下調75%,理論上應為企業AI開發者帶來明顯的成本紅利,但實際情況遠非如此樂觀。問題的核心在於:推論(inference)單價雖在下滑,但以Agent為架構的AI系統正以遠快於降價的速度吞噬Token。傳統聊天機器人的邏輯是「一個用戶問題對應一次模型呼叫」,而Agent工作流則將同一個請求拆解為規劃、檢索、工具呼叫、驗證、摘要、後續決策等一連串操作,用戶看到的仍是一個答案,但廠商承擔的是整條循環的費用。這就是所謂「100倍問題」:同一個用戶請求,透過Agent工作流處理的成本可能是傳統RAG或聊天機器人的數十乃至上百倍,且工作流越長,乘數效應越顯著。模型降價有所幫助,但無法根本修正一個將單一提示轉化為數十個計費操作的產品架構。OpenAI據報擬向Y Combinator新創提供200萬美元API額度,亦間接說明推論成本在規模化應用後的實際量級。對於正在評估AI Agent商業落地的亞太企業而言,這一結構性矛盾意味著:降價訊號不能直接等號於利潤改善,成本模型需要從Token單價重新校準至工作流層級。
原文出處
訂閱品富智圖 AI 新聞
每日 AI 產業要聞彙整,一封信直送信箱。
