Revolut棄Claude改自架智譜模型,推論成本降九成
倫敦數位銀行Revolut把寫程式用的Claude換成自架的智譜(Z.ai)開放權重模型GLM,基礎設施主管David Abitbol稱不到一年推論成本最多降90%;GLM-5.1每百萬token約0.30美元,約商業服務十分之一。另稱交付時間生產力提升70%、寫程式時間生產力提升60%,硬體為56顆輝達B200。
企業用AI寫程式,帳單常隨用量暴衝。Revolut走了另一條路:不再付費租用頂尖模型,改買輝達GPU自己跑開放模型,用量變成固定成本,月底不再收到意外帳單。代價是硬體、電費與維護都得自己扛。主管說,最前沿的模型只留給例外情況。
每天精選 6 則要聞、一則產業名人訪談,五分鐘跟上。
倫敦數位銀行 Revolut 把寫程式用的 AI 從 Anthropic 的 Claude 換掉,改在自己的伺服器上跑中國智譜(Z.ai)的開放權重模型。據報導,不到一年,推論成本最多砍了九成。推論成本,就是模型每回答一次要花的運算費。
Revolut 不是第一次挑 AI。它先試過 Google 的 Gemini,後來才選了 Claude。問題出在帳單:有些重度使用者每個月光 token 就燒掉好幾千美元,換回來的效益卻不成比例。Revolut 基礎設施主管 David Abitbol 負責公司運算系統,上個月他在一場研討會上說:「我們對 AI 的成本高度懷疑。」他也說,當初導入時就設了嚴格的預算上限。

轉折是智譜的 GLM 模型。開放權重,意思是模型本體公開,企業可以下載到自己的機器上執行,不必按次付費給別人。報導指出,GLM-5.1 的推論成本約每百萬 token 0.30 美元,大約是同類商業服務的十分之一。成本降下來,工程師不必再擔心用量上限,可以放手用。Abitbol 在 GTC Berlin 上說,交付時間的生產力提升 70%,寫程式時間的生產力提升 60%。他也稱讚 GLM 在資料隱私與可稽核性上的表現。
不過,天下沒有白吃的午餐。這就像從搭計程車改成買車自己開:每趟車資省下了,但車子、保養、油錢全得自己扛。報導指出,Revolut 現在有 56 顆輝達 B200 GPU。光是模型本身就要約 380GB 的 GPU 記憶體,每位使用者為了記住對話內容,還得另外占用約 6 到 26GB。GPU、維護、電費,都是新增的開銷。
Abitbol 更看重的,其實是帳單變得可以預測。他說:「開源現在是 Revolut 的優先選項,我們的經濟帳很划算。費用是固定的,月底不會被帳單嚇到,最前沿的模型是例外。」文章作者也指出,比起成本高,成本無法預測對企業的打擊更大。
接下來的看點有兩個。第一,還有多少企業會跟著減少對 Claude 這類商業模型的依賴?第二,把日常工作交給沒那麼頂尖的模型、改成自己養機器而不是租用,長期下來能不能真的讓 AI 的帳算得過來?
看完今天的,讓明天的自己送上門
每天精選 6 則要聞、一則產業名人訪談,五分鐘跟上。
已出刊 157 期 ・ 隨時可退訂

