【對談】Matt Garman:AWS 賣的不是雲,是讓企業敢把決策交給代理人的信任基礎
AWS 今年的年化營收剛過 1,690 億美元,年增 37%,這個數字在任何一個正常的產業裡都夠讓人說嘴一整年了。但 Matt Garman——AWS 執行長,2005 年還在念商學院時就以實習生身分參與 AWS 的籌備,後來主導 EC2 雲端運算服務從零到規模——坐下來談的不是過去,而是一個讓他們連 2,200 億美元資本支出都嫌不夠的問題:AI 基礎設施的需求,正在把整個產業的規劃邏輯從季度拉長到十年。
每天精選 6 則要聞、一則產業名人訪談,五分鐘跟上。
這場對談有幾個值得拆開來看的點。第一,AWS 怎麼在 GPU 嚴重不足的情況下,同時服務 OpenAI,Anthropic 這類頂級大客戶和兩人車庫新創——答案是刻意保留配額,不是市場自然分配。第二,Trainium 這塊 AWS 自研 AI 晶片,現在不只拿來訓練模型,連推論都做,而且 Bedrock(AWS 的 AI 模型服務平台)上多數流量都跑在它上面。第三,企業導入 AI 代理人(agent,自主執行任務的 AI 程式)最大的卡點不是技術,而是信任——沒人敢讓代理人自己去動生產系統。第四,AWS 內部已經把代理人開發當標準作業,軟體交付速度大幅提升。第五,資料中心的社會觀感問題,Garman 罕見地公開自我批評,說業界沒把話講清楚。這幾件事合起來的意思是:AWS 現在賣的不只是雲,而是一整套讓企業敢把決策交給機器的信任基礎設施。
◎GPU 不是先搶先贏,是 AWS 主動分配
Garman 說得很直白:他們本來可以把所有 GPU 全賣給幾家頂級 AI 實驗室,直接收攤。他們選擇不這樣做。AWS 內部有明確的配額策略,刻意為新創保留容量,理由很務實——今天的新創是明天的企業客戶,AWS 估計現有營收裡有 30 到 40% 來自曾經是新創的公司。接下來兩年 AWS 要買入 200 萬張 NVIDIA GPU,聽起來很多,Garman 自己說不確定夠不夠。他也提到,目前大約 60% 的新創 GPU 申請最終會得到回應,有時是晚一點,有時是換個地區,有時是不同規格——但不是直接拒絕。這個數字說的人希望你只看到 60%,但分母是所有申請,而且時間與規格都有彈性,實際感受恐怕比數字好看不了多少。
◎Trainium 不只是訓練晶片,現在連推論都贏

AWS 自研的 AI 加速晶片 Trainium,名字取得像訓練專用,但 Garman 說現在它可能是市場上性價比最好的推論晶片。Bedrock 平台上多數流量都跑在 Trainium 上,Anthropic 和 OpenAI 都有合約在上面跑工作負載。Trainium 3 已上市,Trainium 4 已公告但尚未發布,目前 Trainium 容量大概賣到明年底。這條路的起點其實是更早的 Graviton——AWS 自研的 ARM 架構伺服器處理器,效能比同期產品好兩成,成本低兩成,現在前 100 大客戶裡九成以上都在用。Garman 的邏輯是:先從網路虛擬化卸載開始,一步一步把自研晶片的邊界往外推,不是一次賭大的,是一路用數據說服自己繼續走。
◎企業導入代理人,卡在信任而不是技術
Garman 描述的企業現況是:大多數公司已經建了代理人,但都還有人在旁邊盯著,不敢讓它全自動跑。最大的顧慮很具體——沒人想讓代理人意外把生產資料庫刪掉。AWS 正在做的事是從基礎設施層解決這個問題:細粒度的代理人權限控管,沙箱隔離環境,短效期的臨時授權。另一個問題是企業不知道怎麼評估代理人的表現,eval 系統(持續測試代理人行為的機制),資料標注,生產環境監控——這些都還沒有標準做法。AWS 的 FDE 團隊現在的模式是:進去 45 天,教會客戶自己做,然後離開,不是要做成長期顧問生意。Garman 說得很清楚,他不想要一個靠持續派人才能維持的服務模式。
◎AWS 自己也在跑代理人,最大收益在軟體開發
Garman 說 AWS 內部已把代理人開發當作標準流程,他們稱之為 frontier teams——工程師不是用代理人補完程式碼,而是管理一組代理人,讓代理人寫所有程式碼,人負責方向和判斷。他們把 Amazon Q(AWS 自家的企業 AI 助理工具)推給全公司每一個員工,HR 用它做人力規劃,財務用它整理各地稅務規則。最明顯的成果是新功能推出速度加快。Garman 沒有給具體數字,但說法是turbo boost。組織架構也在實驗:原本一個功能要養十個人長期維護,現在三到四個人可以做到,做完就移去下一個問題,不再是一個團隊守著一個功能不放手。
◎資料中心的輿論戰,AWS 承認沒打好
這段是整場最少人預期 Garman 會說的話。他直接承認:業界,包括 AWS,沒有把資料中心帶來的好處說清楚。他舉了一個例子——某個 AWS 設點的郡,當地居民每年少繳 5,000 美元稅,但居民根本不知道這件事。他說業界有少數幾個不守規矩的業者,讓整個產業都被連帶質疑。他沒點名,但語氣很明確。AWS 的立場是:多數業者其實是好的,只是沒有主動說。他說的解法是主動講清楚,而不是等人來問。這不是道歉,是戰略調整。
Garman 這場談話的底層邏輯其實只有一句話:AWS 賣的從來不只是算力,而是讓你不需要自己想清楚那些你想不清楚的事。電力,供應鏈,晶片路線圖,代理人安全框架——每一件都是客戶做不到,AWS 替你做的。問題是,當這個邏輯成立的前提是你信任 AWS 會幫你想清楚,那信任本身就成了最重要的產品。代理人時代剛開始,這個信任還沒被大規模考驗過。
Garman 說他 2005 年商學院實習時的專案就是分析 AWS 最適合的客戶群,結論是新創;AWS 估計現有營收 30-40% 來自曾是新創的公司。
說明 AWS 刻意保留容量給新創,不全賣給大型 AI 實驗室;約 60% 的新創 GPU 申請最終會得到回應;宣布未來幾年將採購 200 萬張 NVIDIA GPU。
從網路虛擬化卸載卡開始,逐步演進到 Graviton ARM 伺服器處理器,再到 Trainium AI 晶片;Trainium 目前容量售罄至明年底,Bedrock 多數推論流量跑在上面。
多數企業的代理人仍是人工監督模式;兩大障礙是不知道如何重新設計工作流程,以及缺乏信任代理人自主決策的工具;eval 系統建立是目前最需要外部協助的領域。
Bedrock 保證用戶資料不離開自己的 VPC,模型供應商看不到提示詞;SageMaker 正成為企業自行後訓練開源模型的主要平台。
AWS 推出名為 Continuum 的服務,用 AI 模型協助客戶掃描環境漏洞並依風險優先排序;Garman 說這是把 AWS 內部安全做法對外開放。
Amazon Q 已推給全公司員工;軟體開發速度是最大收益;正在實驗小型 pod 組織,三到四人快速建完後移往下一個問題,不再固守單一功能。
看完今天的,讓明天的自己送上門
每天精選 6 則要聞、一則產業名人訪談,五分鐘跟上。
已出刊 145 期 ・ 隨時可退訂

