【演講】迪倫·帕特爾:算力漲價,因為跑開源模型太好賺
過去一年想租AI晶片的人都碰過壁。輝達H100的每小時租金,去年十月谷底約1.7美元,現在成交中位數是2.8美元。在Runtime 2026台上,SemiAnalysis創辦人迪倫·帕特爾(Dylan Patel)攤開了數據。他的研究機構追蹤全球每座資料中心與晶圓廠,也替客戶仲介算力,所以知道實際成交價。他要回答的是:算力為什麼這麼貴,又有誰拿得到?
每天精選 6 則要聞、一則產業名人訪談,五分鐘跟上。
迪倫·帕特爾說,算力一路漲,不只因大廠搶貨,連跑開源模型都太好賺。可是租晶片這麼貴,轉手賣AI服務真的划得來嗎?他的答案落在一筆成本與營收的對帳上。另外,他也談到升息讓算力集中到大廠手上,以及多數新興雲端業者資安不及格。
◎跑開源模型一年能賺回成本好幾倍,所以人人搶晶片
帕特爾先把大家的直覺擋了下來。他說,你可以怪OpenAI和Anthropic把晶片買光。這兩家今年合計約有10吉瓦算力,明年會超過20吉瓦。但他接著說,很大一部分原因是連跑開源模型的推論都非常好賺。推論就是模型上線後回答使用者,按用量收費的那一段。
他拿自家測試的數字來對帳。自建並營運一兆瓦的輝達B300叢集,每年成本約9百萬美元。向雲端租的話,一年付1千4百萬美元就算運氣好。用這套設備跑DeepSeek V4.1 Flash,只賣出六成產能,一年就能進帳7千萬美元。他說,就算利用率掉到三成,還是能賺一大筆。
這不是大公司才玩得起。他說這套測試只靠四名工程師,建在開源軟體上,任何人都能下載來跑。他認識好幾十個人,生意就是租一些顯示卡,轉賣推論服務,賺了很多錢。所以他的建議很直接:找得到每小時6美元的B300,就該簽下來轉賣。他說這價格很瘋狂,但簽下來是正確的決定。
他也承認有難處。小規模跑推論不難,但要串起二十五家雲端,在中間調度流量,難度就高很多。雲端業者多半還要求預付,新創更難簽約。他說,H100漲破3美元,B300漲破7美元,他都不會意外,因為開源模型越來越好,也越來越賺錢。
◎升息讓算力集中到大廠手上

生意好賺,不代表借得到錢。帕特爾估計,到2029年底全球AI資本支出會達11兆美元,他說其中7兆是債務。偏偏近兩個月美國十年期公債殖利率急升。小型雲端業者想擴建,銀行只認微軟,Google這種承租方,算力就被大廠包走。他說,明年已簽約的算力有六成五到七成流向雲端大廠與AI實驗室。輝達出面替業者擔保,至今做了6.5吉瓦,極限約45吉瓦。
◎拿得到算力,也要看業者靠不靠得住
誰交得出算力,帕特爾用排行榜回答。他的團隊追蹤323家雲端業者,實際審查77家,只有19家拿到獎牌。最好的兩家,一家六個月內都賣光了,另一家要先預付半年到一年。最新一版測試,他們讓開源模型攻擊新興雲端業者。結果有一家整個叢集被拿下,還看得到某國國防與情報單位的工作名稱,他們立刻退出。AWS也被降到銅牌,他說租一個叢集要找十個人談。
回到那個問題:租晶片這麼貴,還划得來嗎?帕特爾的答案是,正因為划得來,價格才停不下來。接下來值得觀察兩件事。一是輝達擔保的算力能不能從6.5吉瓦往45吉瓦擴大,二是利率怎麼走。他最後說,開放生態要是拿不到算力,大家就只能受制於Anthropic和OpenAI。
介紹SemiAnalysis的業務:追蹤資料中心,電廠,晶圓廠,在奧勒岡設實驗室逆向工程晶片,公司從他一人起家到115人。
全球算力從2024年底的60吉瓦增加到今年超過100吉瓦。OpenAI與Anthropic今年約10吉瓦,明年超過20吉瓦。
指出AI實驗室的算力大多花在訓練而非推論:Claude Code只用約1吉瓦,Anthropic手上有4吉瓦。
H100租價從去年十月約1.7美元的谷底漲到中位數2.8美元,一年期合約很難買到。
一兆瓦B300叢集每年成本約9百萬美元,跑DeepSeek V4.1 Flash,利用率六成,一年營收7千萬美元。
ClusterMax排行:追蹤323家,審查77家,19家獲獎牌。之後談到用模型測試雲端資安的事件。
預估2029年底全球AI資本支出11兆美元,並說明升息如何讓小型雲端業者借不到錢。
輝達替雲端業者擔保叢集的三種做法,目前約6.5吉瓦,最多約45吉瓦。
看完今天的,讓明天的自己送上門
每天精選 6 則要聞、一則產業名人訪談,五分鐘跟上。
已出刊 160 期 ・ 隨時可退訂

