【座談】帕特爾:AI雲端安全亂象叢生,全棧整合為真護城河
AI基礎建設這行,外人很難看清楚誰在說真話,誰在講故事。迪倫·帕特爾(Dylan Patel)是少數能讓人信的那種——他2020年一個人創辦Semi Analysis,靠逐層拆解晶片供應鏈,資料中心建設與雲端效能起家,現在是AI產業下注前必讀的研究來源。這場Fully Connected 2026是CoreWeave舉辦的年度開發者大會,CoreWeave是一家從新澤西車庫加密礦場起家,轉型為GPU雲端供應商的公司。迪倫坐上台,主持人開門見山問:現在這麼多人在用AI建東西,他們到底有沒有做對?
每天精選 6 則要聞、一則產業名人訪談,五分鐘跟上。
這場對談有幾個值得說的點。第一,AI應用層現在是碎片化的叢林,沒有標準,也不會有標準;第二,雲端和AI應用的界線正在消失,全棧整合才是真正的護城河;第三,安全是整個產業最被低估的風險,迪倫的測試結果讓人捏一把冷汗;第四,小任務變容易了,但整個系統的複雜度反而暴增——這才是現在最難的地方。合起來看,這不是一張樂觀的地圖,但對想認真做事的人來說,方向其實很清楚。
◎碎片化不是過渡期,是長期狀態
很多人等著AI工具鏈收斂,標準出現,然後再下手。迪倫的看法是:別等了。他說整個應用層真正共識的只有一件事——OpenAI的API格式大家都在相容,僅此而已。往上走,每個行業有自己的資料主權顧慮,每個用例有自己的安全要求,每一代新模型出來都會讓舊的架構設計(他稱之為scaffolding)從幫倒忙變成拖累。他舉了一個自己親身的例子:他不用Perplexity的搜尋,覺得沒必要;但Perplexity推出Slack代理人之後,他現在每天花在上面的費用是幾千美元。用例在變,工具在變,沒有人有辦法等到塵埃落定再動。這對在座的台灣總經理有一個直接含義:你現在導入AI工具的選擇,三到六個月後可能就要重新評估,這是常態,不是你選錯了。
◎雲端不再只是租機器,全棧才有競爭力

迪倫觀察到一個產業結構的移動:雲端廠商在往上做推論服務和管理介面,推論服務商在往下建自己的硬體,大型應用公司在往兩邊同時延伸。為什麼大家都想做全棧?因為光是租GPU已經不夠了。他舉了一個實際場景:你想讓AI代理人能夠啟動一個容器,執行一個任務,再關掉,這件事在今天可能要同時用到四,五家不同的供應商——GPU雲,推論端點,環境管理,儲存,安全管理各一家。如果這些層之間能夠緊密整合,效能差異是真實可量測的。他說,同一張GPU在不同雲端上跑同一個任務,效能差距是可以直接測出來的,差距來自於整個系統的協同調校,不只是晶片本身。
◎安全是整個產業的破洞,而且破洞正在變大
這段是全場最值得讓老闆聽進去的部分。迪倫的Semi Analysis有一個叫Cluster Max的雲端評等計畫,他們測試了超過80家雲端供應商(全球有200多家)。結果:有大量供應商的儲存系統可以被直接存取,你可以看到別人的檔案;有些甚至可以看到其他租戶的運算任務名稱。他說有一個案例,某個新興雲端供應商上面同時有一個國家的空軍和國防相關機構,而他們的測試在沒有惡意的前提下就能看到那些任務名稱——他說到這裡他們立刻停手並通報了。為什麼現在特別危險?因為AI讓滲透測試變得非常容易,以前要找漏洞得靠專業人員長時間手動測試,現在開源模型就能做大部分的工作。他的結論很直白:如果你把公司的核心程式碼或商業機密送到某個serverless端點,你確定你信任那個供應商背後的底層基礎設施嗎?你確定你信任跟你共用同一台機器的其他租戶嗎?
◎小任務容易了,大系統反而更難
迪倫說了一句反直覺的話:他現在覺得亂搞小東西沒什麼意思了,因為太容易了。以前要搞清楚一個技術問題,要爬無數個論壇,撞牆幾個星期;現在問模型,五分鐘解決。但他說這不是好消息,因為這意味著大家都在把這些容易的小任務串起來,做更複雜的系統——而那些複雜系統的難度,已經超過任何一個人或任何一個模型能夠完整掌握的範圍。他說這才是現在真正有趣,也真正難的地方:從零到一建一個複雜系統,需要把晶片,模型,雲端基礎設施,應用層全部一起考慮進去,任何一層的調校都會影響其他層的效能。對工程師來說,這是最好的時代;對想快速複製別人做法的人來說,這條路沒有捷徑。
迪倫這場說的,簡單講就是:AI工具鏈不會收斂,安全問題比你想的嚴重,整合能力才是真正的門檻。他不是在潑冷水,他是在說現實。對台灣的企業主來說,最實用的一句話是他說的那個比例:每10張GPU用來跑AI推論,就需要1到2張GPU處理代理人查詢資料的問題。基礎設施的需求不是線性的,是整個生態系同步在長。你現在看到的,只是開頭。
介紹當天講者陣容,點名迪倫·帕特爾:Dylan Patel在2020年一個人創辦Semi Analysis,今天AI最大資料中心的建設者在下注之前都會先讀他的研究。
說明Parallel的核心信念:模型持續進步,代理人會像人類使用網路一樣使用搜尋,但規模是千倍。他說三年前預估千倍,現在覺得自己當時太保守了。
提出長期不變的比例估算:每10張用於AI推論的GPU,就需要1到2張GPU處理網路搜尋問題,因為代理人需要大量即時資料,而網路上每天有數十億頁面在更新。
描述AI應用層現況:高度碎片化,沒有真正的標準;新模型出來會讓舊的系統設計從幫忙變成拖累;舉Perplexity為例說明用例如何快速轉變。
說明全棧整合的重要性:同一張GPU在不同雲端跑同一任務,效能可以有明顯差異;雲端,模型,晶片的協同調校已成為競爭力的核心來源。
報告Cluster Max安全評測結果:測試超過80家雲端供應商,多家可直接存取其他租戶的儲存系統與運算任務;AI工具讓滲透測試變得更容易,安全漏洞被發現的速度也在加快。
談小任務容易化與大系統複雜化的矛盾:以前要搞懂一個技術問題要爬大量論壇,現在問模型就解決;但正因如此,大家把這些容易的任務串成更複雜的系統,整體難度反而超過任何人能完整掌握的範圍。
看完今天的,讓明天的自己送上門
每天精選 6 則要聞、一則產業名人訪談,五分鐘跟上。
已出刊 145 期 ・ 隨時可退訂

