德國 Aleph Alpha 開源 Kolibri 1:78B MoE 模型,主打政府與工業主權部署
德國 AI 公司 Aleph Alpha 在德國統一日(10 月 3 日)發布 Kolibri 1,以 Apache 2.0 授權在 Hugging Face 開放下載,可免費商用。模型為 MoE 架構,總參數 78B、推論時啟動約 3B,支援最高 100 萬 tokens 上下文,21.3% 預訓練 tokens 為德文(約 4.3T),在德國與芬蘭基礎設施上以 768 張 B200 GPU 訓練 20T tokens,歷時 21 天。
Kolibri 1 把「合規、可在地自建、德文夠用」三個條件打包成一個可直接下載的開源模型,對在歐洲有 GDPR 或 EU AI Act 合規壓力、或不願把資料送到境外的企業而言,這道門檻從「大量客製」降到「下載即用」;Aleph Alpha 的企業支援能不能跟上需求,才是決定這個開源賭注能走多遠的關鍵。
每天精選 6 則要聞、一則產業名人訪談,五分鐘跟上。
德國 AI 公司 Aleph Alpha 在德國統一日當天發布 Kolibri 1,以 Apache 2.0 授權在 Hugging Face 開放下載,任何人都可以免費商用。這不是一個通用競賽型大模型,而是一個從一開始就為主權部署設計的工業級工具,鎖定歐洲政府機關、航太、製造與汽車等受監管產業。
規格上,Kolibri 1 是 Mixture-of-Experts 架構,總參數 78B,但每次推論只啟動約 3B 的參數——這個設計讓它可以在客戶自己的機房裡跑,不必把資料送到第三方推論服務。上下文長度最高支援 100 萬 tokens,比前一代 Kolibri Origin 的 65,000 tokens 拉高了約 15 倍。Aleph Alpha 宣稱它在同等服務成本下沒有競爭模型能超越它的品質,具體數字是:78B 的架構在兩張 H100 上可同時處理 18 條長上下文請求,而如果改成 123B 版本只能處理 3 條,解碼速度也慢了 28%。

從語言資料的角度來看,Kolibri 1 有 21.3% 的預訓練 tokens 是德文,約 4.3T tokens。Aleph Alpha 並沒有靠機器翻譯填資料,而是自己從 Common Crawl 抓了 1.3T 的有機德文網頁、再用 LLM 改寫另外 1T tokens,原因很實際:把英文翻成德文,文化語境還是英美的,模型學到的是「用德文說美國的事」。他們還為此開發了新的分詞器 UniBPE,更好處理德文複合字的詞形結構,讓德文推論的 token 消耗更低。
整個訓練過程在德國和芬蘭的基礎設施上完成,不涉及非歐洲法律管轄,這正是他們對外承諾的「主權」——不只是能自己部署,而是從資料蒐集、預訓練到後訓練,整條供應鏈都在自己手上。這一點讓 Kolibri 1 可以直接宣稱符合 EU AI Act、GDPR 等法規要求,合規性是模型繼承的屬性,不是事後打補丁的。
對企業來說,另一個值得注意的能力是「知道自己不知道」。一般模型的訓練邏輯是猜錯有小機率答對、不回答則絕對得零分,所以模型學會硬猜;Kolibri 1 用 Merlin-Arthur 協議訓練,讓模型在上下文沒有足夠依據時選擇棄答而非亂猜。測試數字顯示,在 AA-Omniscience 資料集上,Kolibri 1 正確棄答的比率是 44%,前一代 Kolibri Origin 只有 15%——在法律文件或飛航安全等場景,這個差距意味著「可部署」與「不可部署」之間的分界線。
Kolibri 1 從開始規劃到發布,前後不過幾個月:前一代 Kolibri Origin 於 6 月 11 日完成預訓練,Kolibri 1 於 9 月 11 日完成,中間只隔三個月,訓練 tokens 從 7.5T 擴到 20T(處理原始資料超過 200T 才篩出 20T),GPU 用的是 768 張 B200。這個速度說明 Aleph Alpha 建的不只是一個模型,而是一條可以反覆跑的自動化訓練流水線——預訓練 21 天裡遇到 38 次非計畫中斷,全部由系統自動切換節點、從 checkpoint 恢復,沒有人工介入。
這件事對企業主的意義在於:開源主權模型的門檻正在快速降低。以前要達到「合規、可自建、德文夠用」這三個條件需要大量客製,現在 Kolibri 1 把這三個條件打包成一個可以直接下載的 Apache 2.0 模型。對在歐洲有合規壓力的企業,或是對把資料送到境外推論感到顧慮的組織,這個選項的出現讓評估清單上少了幾個原本繞不開的障礙。真正的問題是:Aleph Alpha 的企業部署與專業化支援能不能跟上需求,規模和後台服務能力決定這能走多遠。
看完今天的,讓明天的自己送上門
每天精選 6 則要聞、一則產業名人訪談,五分鐘跟上。
已出刊 128 期 ・ 隨時可退訂

