亞馬遜推TorchNeuron，挑戰輝達的軟體護城河

亞馬遜正在對輝達最難被取代的武器下手。這次的目標不是晶片，而是軟體。AWS 週一推出開發工具 TorchNeuron，讓 AI 新創只改一行設定，就能把 AI 應用搬到亞馬遜自研的 AI 晶片 Trainium 上執行，程式碼完全不用重寫。

要看懂這一步，得先知道輝達為什麼能坐穩 AI 硬體的首選。全世界寫 AI 應用，最常用的工具叫 PyTorch，這是一套免費、開源的開發工具，用來打造、訓練與執行 AI 模型。亞馬遜說，約有八成五的 AI 應用是用它寫的。PyTorch 最早由臉書開發，2022 年起交給負責維護開源專案的 Linux 基金會管理。

輝達花了好幾年，讓自家的 CUDA 軟體完美支援 PyTorch。CUDA 是讓應用程式能在輝達 GPU 上跑起來的底層軟體。結果是，輝達硬體幾乎成了 PyTorch 的預設選項。

打個比方：PyTorch 像全世界廚師共用的食譜格式，輝達則多年來把自家廚房打造得跟這套食譜完全契合。照著食譜做菜，最順手的永遠是輝達的廚房，換到別家廚房就得自己摸索。

TorchNeuron 是從 PyTorch 改出來的，會用 PyTorch 的開發者，上手幾乎沒有門檻。不過亞馬遜不是第一個這麼做的公司。PyTorch 使用者早就能改個設定，把應用搬到 AMD 的 GPU，甚至蘋果的晶片上。

亞馬遜的賣點是，搬過來不只容易，還能用上整套 AWS 雲端。它把矛頭指向 CoreWeave、Nebius、Firmus 這類新興雲端業者，這些業者很多都跟輝達硬體綁在一起。AWS 旗下自研晶片部門 Annapurna Labs 的技術軟體副總裁 Colin Brace 說：「在 AWS 上開發，你不是把賭注押在單一用途的算力供應商，然後手忙腳亂地自己補齊其他東西。」

AWS 承認，自家的單位價格未必最便宜，但主張整體更省錢。理由是同一顆 Trainium 晶片既能訓練模型，也能讓做好的模型上線回答問題，又跟新創需要的雲端服務緊密整合。Brace 舉 AI 語音公司 Deepgram 為例，說對方改用 Trainium 後，在維持正式上線水準準確度的前提下，每一美元能多處理七成的音訊。Deepgram 是 ElevenLabs 的競爭對手。

更大的一步棋在後面。亞馬遜說，會把程式碼貢獻給 PyTorch 主專案，跟社群合作，移除把這套工具綁在特定晶片上的程式碼，讓 PyTorch 對所有開發者都更不挑硬體，不只嘉惠 Trainium 用戶。套回剛才的比方，亞馬遜不只蓋了新廚房，還要去改食譜本身，把「預設用輝達廚房」的字句拿掉。

TechCrunch 也提醒，PyTorch 存在的意義之一，正是替開發者擋掉讓 AI 程式在硬體上跑起來的種種麻煩。把輝達推得這麼遠，最後開發者得到的，可能是更多選擇與更便宜的方案，也可能只是更多設定上的頭痛。

接下來的看點，是亞馬遜的修改能否被 PyTorch 社群接受，以及會不會有更多新創跟著 Deepgram 搬家。如果 PyTorch 真的跟輝達深度脫鉤，衝擊的就不只是晶片之間的競爭。Brace 的說法是：「真正的重點，是拆掉那道讓開發者根本沒有選擇的綁定。」