PyTorch 2.15重寫GPU通訊層,一張卡壞掉不必全部重跑
發生什麼事開源AI框架PyTorch推出2.15版,重寫與輝達通訊函式庫NCCL銜接的後端:每個行程群組只配一個通訊器,以避免舊版的死結;GPU當機或變慢時,外部調度程式可排除並換上替補;新增飛行記錄器,故障後可回查快照。舊版留作退回選項,預計2.16版移除。本版有583位貢獻者、3,117次提交。
為什麼重要大型AI模型要靠大量GPU一起訓練,過去只要一張出錯,就可能整批從頭重跑。據Northflank共同創辦人說法,各大AI實驗室都用PyTorch;這次改版讓出問題的卡能被排除替換、故障原因查得到,PyTorch正從研究工具變成正式上線的基礎。

