AWS SageMaker新功能：企業微調AI代理，不用自己管GPU

企業想把 AI 代理訓練成真正懂自家業務的員工，最麻煩的往往不是演算法，而是背後那堆昂貴又難伺候的 GPU。亞馬遜旗下雲端服務 AWS 在 10 月 22 日正式開放 SageMaker AI 的新功能 training sessions，要把這個負擔接過去。

先說問題在哪。一個 AI 代理講話可以頭頭是道，派它做事卻照樣出包：該查哪份文件、該用哪個工具、做到什麼程度才算完成，光靠一個聰明的模型學不來，得拿企業自己的任務去微調，也就是在現成模型上再做專門訓練。偏偏每跑一次實驗，就得張羅運算資源、分配工作給多顆處理器、處理機器當掉、記得存檔。

新功能的分工很清楚：開發團隊寫訓練步驟、定義怎樣算做得好；SageMaker 負責分配運算資源、協調處理器、故障復原和儲存進度。打個比方，就像租一間有專人顧爐火的中央廚房，你只管寫食譜、試味道，瓦斯、人手、停電都由廚房搞定。

要說清楚的是，SageMaker 做微調不是新鮮事。過去它就讓開發者帶自己的訓練程式來跑，但機型、環境、分散式設定都得自己選；去年底推出的免伺服器方案省事了，選擇卻受限。這次是把兩者合一：開發者可以一步步指揮模型產生回答、計算並套用更新，AWS 在後面管 GPU。

這種彈性對要做好幾個動作的代理特別有用。例如內部客服代理要查文件、看帳戶、決定是否轉給上級，訓練時就能在順利解決時給獎勵、做出未授權動作時扣分。AWS 舉的做法是讓模型對同一問題給出好幾個答案，由客戶自己的評分程式打分，再依分數高低調整模型，一輪輪重複。

早期客戶有兩家。ImagineSoftware 用它訓練模型來分流被退件的醫療理賠，資料科學資深副總裁 Rob Gontarek 說：「Training Sessions 給了我們推向正式上線等級表現所需的基本工具。」Karini AI 則用它微調 gpt-oss-20b，讓代理能多步驟查詢知識圖譜，執行長 Nitin Wagh 說，這給了開發人員想要的彈性，又卸下了維運負擔。不過 AWS 沒有公布任何準確度、成本或上線速度的對比數字。

收費改成按模型處理的 token 計算，不必包租 GPU，客戶的評分程式在跑時計費會暫停，但 AWS 沒公布具體價格。首批支援 gpt-oss-20b、gemma-4-31B-it、Qwen3.6-27B 與 Qwen3.8-27B，地區限北維吉尼亞、奧勒岡和孟買，預設一次最多跑兩個訓練。AWS 也強調訓練資料和模型存在客戶自己的儲存空間，不會拿去訓練其他模型。

接下來的看點是價格何時攤開，以及跟 Thinking Machines Lab 的 Tinker 等同類服務正面競爭時，AWS 能否靠企業既有的雲端環境勝出。真正的考驗仍在企業自己：定義什麼是好表現，並證明模型真的學會了。