Claude Code訊息串實測:四小時省2到4分鐘,不省錢
Anthropic推出訊息串功能:Claude Code多數用戶已預設開啟,API用戶加上thread參數即可啟用;代理每回合只傳新增內容。Anthropic稱大型請求的首字回應時間中位數縮短35%。ZDNET作者用自己的使用紀錄推估,四小時工作約省2到4分鐘;token用量、費用與用量上限不變。
AI寫程式代理越跑越長,過去每回合都要把整段對話重傳一次,等待時間會一路累積。訊息串只傳新增部分,讓回應快一點;但模型仍要處理整段對話,所以不省錢。對來回次數多、資料量大的企業應用,縮短延遲才是重點。
每天精選 6 則要聞、一則產業名人訪談,五分鐘跟上。
Anthropic 替 Claude Code 加上一個叫訊息串的新機制,讓 AI 寫程式時回應變快。ZDNET 作者 David Gewirtz 翻出自己的使用紀錄實際估算:一段四小時的工作大約省下 2 到 4 分鐘。快是快了,但帳單一毛錢都沒少。
要懂它省在哪,得先知道 AI 代理怎麼跟模型講話。AI 代理就是會自己一步步把工作做完的 AI。它在一次對話裡會反覆向模型發出很多請求,過去每發一次,都要把整段對話從頭到尾重傳一遍。

作者打了個比方:你跟朋友傳了很久的訊息,結果每傳一句新的,都得把之前所有對話連同對方的回覆一起重寄一次。模型溝通一直都是這樣運作。開了訊息串之後,代理只需要傳上一回合之後新增的部分,傳的資料變少,回應就快了。
Anthropic 官方的數字是,大型請求的首字回應時間中位數縮短 35%,也就是從送出請求到模型開始吐出第一個字的等待時間。作者整理了功能上線前約 980 個回合的紀錄:對話內容累積到 50 萬 token 以上時,每次請求後大約要等 3 秒,模型才開始回應。他上個月有五個忙碌的晚上,四小時內呼叫模型 100 到 225 次。套進 35% 這個數字後,推算出那 2 到 4 分鐘。
效果在對話很長時最明顯,大約是 50 萬到 100 萬 token 的規模;作者有一半的工作階段,一晚就會多次撞到這個上限。需要讓 AI 操作電腦的代理也受惠,Anthropic 部落格說,那些截圖會留在訊息串裡,不必每一回合重新上傳。
為什麼不省錢?因為模型每一回合仍要把整段對話完整處理一次,token 用量照算,用量上限也沒變。真正能省錢的是已推出約兩年的提示快取,讓模型不必一再重複處理同樣的提示,兩者可以搭配使用。
它也有限制。單次、一問一答的請求感受不到差別;兩回合之間如果隔超過 5 分鐘,又會整段重傳。它也不會讓 Claude 變聰明,對話越長,模型越可能搞混自己在做什麼或推理出錯。
目前多數 Claude Code 使用者已預設開啟,API 使用者在請求裡加上 thread 參數就能啟用。作者認為,對來回次數多、資料量大的企業應用來說,任何延遲縮短都很重要。接下來要看的,是這種提速在長時間運作、大量處理文件與圖片的代理上能拉開多大差距。
看完今天的,讓明天的自己送上門
每天精選 6 則要聞、一則產業名人訪談,五分鐘跟上。
已出刊 157 期 ・ 隨時可退訂

