【對談】李飛飛 Atlas 把 new view prediction 做成空間版 next token prediction
李飛飛(Fei-Fei Li)是史丹佛大學 AI 實驗室前主任,ImageNet 資料集的催生者——那個資料集在 2012 年點燃了這一輪深度學習革命。她在 2024 年創辦 World Labs,目標是讓 AI 真正讀懂三維空間。兩年半後,World Labs 發布了新一代世界模型 Atlas,在 AI 圈引發的反應用轟動不算誇張。a16z 是矽谷最具影響力的創投機構之一,這場對談在模型發布隔天錄製,李飛飛帶著兩位共同創辦人一起出場:Justin Johnson,電腦視覺學者,負責模型架構;Ben Mildenhall,NeRF 技術的發明人——NeRF 是近年最重要的三維重建方法之一,讓稀疏照片能還原出三維場景。三個人坐下來講的,是他們認為足以跟 LLM 的 next token prediction 並列的新 AI 基本原語。這個說法大不大?很大。值不值得信?值得認真看。
每天精選 6 則要聞、一則產業名人訪談,五分鐘跟上。
這場對談有幾個值得說的地方。第一,Atlas 把長期分家的生成與重建兩件事塞進同一個模型,這在電腦視覺領域是第一次。第二,他們提出 new view prediction 是新的 AI 基本原語,地位等同 LLM 的 next token prediction,這個主張的份量需要仔細掂。第三,從三支 iPhone 就能重現《駭客任務》子彈時間效果,不是行銷話術,背後是 50 到 100 倍的拍攝門檻壓縮。第四,機器人訓練資料短缺的問題,World Labs 打算用 Atlas 的模擬能力去填。第五,整個團隊對規模擴展(scaling)還在路上的確信,讓這場發布更像起跑而非終點。
◎生成與重建合一,不是升級而是換範式
過去半個多世紀,電腦視覺有兩條平行跑道:一條是生成——憑空造出從未存在的影像;另一條是重建——從照片還原現實三維結構。這兩件事從來不在同一個模型裡。Atlas 是第一個把它們統一進同一套架構的模型,而且是在預訓練階段就讓文字,影像,影片,相機位姿,深度圖同時成為原生輸入。為什麼這重要?因為純生成很有創意但不準確,純重建很精確但需要海量拍攝。把兩者綁在一起,才能做到:輸入三張 iPhone 拍的影片,輸出凍結時間,相機飛繞的子彈時間畫面——《駭客任務》當年要幾百台攝影機加綠幕才能完成的鏡頭。
◎50 到 100 倍的門檻壓縮,才是真正的商業炸藥
傳統三維重建需要密集拍攝——一個房間幾百張照片,稍有死角就出現破洞。Ben Mildenhall 說,就連他這個領域頂尖專家親自掃描,也難免漏掉麥克風下方,桌子底部這些細縫。一般人第一次掃描多房間環境,可能花掉兩小時。Atlas 把這件事壓縮到三張照片,他們在史丹佛校園的展示裡,從地面拍攝的三到二十五張照片,重建出包含空拍視角的整個廣場——而每一張輸入照片都是站在地面拍的,空拍視角全是模型生成的。分開來看,生成很神奇;但 50 到 100 倍的門檻壓縮,意味著過去根本不值得拿去重建的舊影片,隨手拍的手機片段,現在都變成可以拿來用的素材。這才是值錢的地方。
◎New view prediction 是不是新的 AI 基本原語?
LLM 靠 next token prediction 起家,這個原語之所以強大,是因為幾乎任何智識任務都能被改寫成預測下一個 token。Justin Johnson 在訪談裡提出一個對稱的主張:new view prediction 是空間智慧版本的同等原語——任何需要理解三維空間的任務,都可以被改寫成預測從某個視角看到什麼。李飛飛從演化角度補刀:動物有眼睛,是因為移動就會產生新視角,新視角驅動了智慧;樹沒有眼睛,因為它不移動。這個類比好不好?相當漂亮。但 next token prediction 的地位是被無數實驗和應用驗證出來的,new view prediction 還在非常早期。這個主張值得持續觀察,現在下定論還太早。
◎機器人缺的不是演算法,是訓練資料——Atlas 打算填這個洞
World Labs 收購了一家原名 Scenix 的公司,核心技術是實體到模擬,模擬到實體的流程。訓練機器手臂做一件事,你需要大量場景資料,還要對同一個場景做隨機化——電纜換個彎法,箱子換個顏色,物件換個位置——這樣機器才不會在現實裡遇到稍微不同的狀況就失靈。這個過程現在靠密集拍攝完成,慢,貴,費工。Atlas 的稀疏重建能力,理論上可以把這個流程的成本壓下來。更長遠的想法是:一個能生成和模擬世界的模型,本身就可能成為規劃動作的大腦——模擬器和規劃器合而為一。這還在路線圖上,但邏輯站得住腳。
◎Scaling 還在起跑,瓶頸是算力不是架構
Justin Johnson 說得很直接:這次發布的模型規模受限於發布時間點的截止日期,不是受限於架構或資料的天花板。每次把模型做大,訓練時間拉長,效果就顯著變好——scaling law 在這個架構上目前還看不到平頂。讓三個共同創辦人決定全力押注的那個時刻,是某天早上在 Slack 上看到一段影片:相機從花園桌子底下穿過,帶著一顆足球的完整重建。李飛飛說,三個人看了五秒,決定就這樣了。這種故事聽起來很像創業神話,但 scaling 仍在爬坡,架構尚未撞牆,這個判斷如果是真的,後面的版本會比現在有趣得多。
World Labs 做的事,說穿了是試圖給 AI 一雙真正理解空間的眼睛。Atlas 是這條路上目前走得最遠的一步,生成與重建合一,拍攝門檻大幅壓縮,機器人模擬的商業需求就在眼前——這些都是真實的進展。New view prediction 能否真的成為和 next token prediction 同等份量的基本原語,現在還沒有答案。但 scaling 還在起跑,架構還有空間,這個問題值得持續跟進。
說明 Atlas 三項核心能力:相機軌跡控制生成,稀疏三維重建,模擬(含子彈時間影片與機器人模擬),並定義 new view prediction 為 Atlas 的基本原語。
解釋 Atlas 與其他影片模型的關鍵差異:每一張輸入影像都帶有精確的三維相機位姿,使重建具備空間精度,而非仰賴文字提示猜測。
解釋密集重建與稀疏重建的差異:傳統密集重建需要 100 至 300 張照片,Atlas 目標壓縮到 3 張,並以史丹佛校園廣場為例說明從地面照片生成空拍視角的效果。
李飛飛與 Justin Johnson 討論 scaling 的現狀:目前瓶頸是訓練算力而非架構或資料上限;每次擴大模型規模效果都顯著提升;此次發布規模受截止日期限制,並非架構極限。
描述讓團隊確認押注 Atlas 方向的關鍵時刻:在 Slack 上看到相機穿越花園桌子底部,帶足球重建的影片,三位共同創辦人在五秒內做出決定。
說明收購 Scenix(現為 World Labs 機器人團隊)的邏輯:Atlas 的稀疏重建可加速機器人訓練中實體到模擬的流程,取代目前耗時的密集拍攝,並說明場景隨機化在機器人訓練中的重要性。
提出 new view prediction 是 AI complete 原語的論述,類比 next token prediction 的地位;李飛飛補充演化角度:動物因移動產生新視角而發展出眼睛與智慧,樹則否。
看完今天的,讓明天的自己送上門
每天精選 6 則要聞、一則產業名人訪談,五分鐘跟上。
已出刊 133 期 ・ 隨時可退訂

