【專訪】迪倫·帕特爾：AI 雲端的護城河在軟體與安全，不在 GPU

這場對談值得注意的有四個點：第一，算力成本的反直覺真相——token 變便宜，但同一張 GPU 的收益反而在漲；第二，所謂雲端業者之間的差距，軟體層才是主戰場，不是硬體；第三，安全漏洞的嚴重程度已到國家安全級別，卻普遍未獲足夠重視；第四，三年後能活下來的 AI 雲端業者，靠的不是賣 GPU 時間，而是賣 token 推論服務。這四點合起來說的是同一件事：AI 雲端這門生意的護城河，正在從硬體轉移到軟體與信任。

◎token 愈來愈便宜，GPU 卻愈來愈值錢

這兩件事同時成立，而且並不矛盾。迪倫的解釋很直接：產生同樣水準的智慧，需要的模型愈來愈小，小模型跑得快，同一張 GPU 單位時間能吐出的 token 數量暴增。token 單價雖然掉了，但總量成長的速度遠快於單價下跌的速度，所以每張 GPU 的總營收反而是往上走的。結論是：拿現有 GPU 做推論服務，這門生意的邏輯其實在變好，而不是在被壓縮。

◎H100 不等於 H100，軟體層決定你能收多少錢

很多人以為同型號的晶片跑出來的結果都差不多。迪倫在 ClusterMAX 評測中看到的現實不是這樣。軟體設定，網路架構，備援節點的速度，有沒有托管好的 Kubernetes 或 Slurm 作業排程系統——這些東西決定了客戶實際能用到多少算力。金牌與銅牌業者之間的報價差距很大，差異來源幾乎全在軟體與可靠度，不在晶片本身。這對想靠硬體規格競爭的業者是個壞消息，對願意投資軟體的業者是個機會。

◎安全漏洞嚴重到連國家安全機構都曝露其中

SemiAnalysis 實際測試了一批 AI 雲端業者，發現漏洞多到連直接叫模型去找都找得到——可以存取別人的儲存空間，可以進入別人的運算節點，甚至有辦法拿到其他租戶的 Slurm 作業系統權限。更令人不安的是：他們拿到某個資料中心存取權之後，往裡一看，發現同一批伺服器上跑的是某個國家的國家安全機構。多個政府單位的資料，就放在一個任何有技術的人都可能摸進去的環境裡。迪倫的判斷是：這是整個行業目前最被低估的系統性風險，而各國搶著建的主權 AI 雲端，恰好最可能踩到這個雷。

◎三年後還在場上的業者，靠賣推論，不靠賣 GPU 時間

迪倫的預測很明確：GPU 現貨市場會消失，token 現貨市場會存在。這兩句話的意思是：未來客戶要買的是推論結果，不是租算力。能夠把 GPU 效率榨乾，把每張卡的 token 產出最大化的業者，才有辦法在這個市場裡收到最高的每卡收益。對還在思考要不要自建三十人軟體團隊的新興雲端業者來說，這個判斷暗示了一件事：把資源押在推論優化上，報酬遠高於把資源押在基礎建設工具上。

看完這場訪談，我有一個感覺：AI 雲端這個行業正在走一條三十年前電信業走過的老路——初期大家拚硬體覆蓋率，後來發現護城河在服務品質與信任，最後能活下來的是把軟體做扎實的那幾家。迪倫沒有直接說這句話，但他每個論點指向的都是同一個方向：硬體是入場券，軟體與安全才是賺錢的地方。這個結論不複雜，難的是大多數業者現在還沒有足夠的人力去做到。