Thinking Machines推出四分之一體積開源模型 效能逼近旗艦版

Mira Murati的Thinking Machines兩週前才發布首個開源模型Inkling，這回直接端出縮小版Inkling-Small——276億參數，只有原版975億參數的四分之一不到，但在第三方Artificial Analysis智能指數上只差1分（40比41），部分編碼與推理測試甚至反超原版。這不是「差不多能用的平價版」，是「幾乎沒差、但便宜一大截」的替代品。

關鍵在架構：Inkling-Small是稀疏混合專家模型，每個token只從256個專家裡挑6個加2個共享專家運算，每次推理只動用120億參數，原版則要動用410億。這解釋了為什麼參數總量差了3.5倍，實際算力需求卻沒差那麼多——標準版仍需8張H200或4張B300，量化版可壓到180GB顯存、單張B300就跑得動。便宜也是真便宜，API定價打五折後，輸入token每百萬只要0.58美元。授權用的是Apache 2.0，企業可以自由商用、微調、二次開發，不像月之暗面Kimi K3那種帶商業條款的「偽開源」授權，法務審查門檻低得多。

但別神化這個模型。它在事實性知識和部分agentic任務上明顯輸原版——τ³-Banking測試只拿15.5%，原版有23.7%;AA Omniscience分數甚至是負的。想拿它做高風險的事實查核工作，還是得配檢索增強和人工複核，省不了這道工序。

真正該注意的，是Thinking Machines內部研究員Horace He的一句話：發布Inkling當年「像動員全村」，做Inkling-Small卻「例行公事」——同一套pipeline，換個小模型進去，新模型就出來了。這代表這家公司已經把模型開發從一次性研究專案，變成可重複的工程化流程，預訓練、後訓練、強化學習到發布一條龍打通。對企業客戶來說，這意味著Thinking Machines不會只丟一個模型就沒下文，而是會持續壓縮、迭代、擴充整個模型家族。對正在评估自建AI能力的企業而言，這種「輕量但夠用、授權乾淨、還持續迭代」的組合，比追求單一榜單分數更值得放進採購清單。