【對談】Box 執行長萊維:企業沒準備好,代理人革命會比你想的慢很多
AI 代理人(agent,能自主執行任務的 AI 程式)已經不是概念,是正在被企業採購,試部署的現實。問題是,採購之後卡在哪?亞倫·萊維(Aaron Levie)是企業雲端儲存與協作平台 Box 的共同創辦人暨執行長,他的公司長期扮演企業資料的中央樞紐,銀行,藥廠,製造業都是他的客戶——換句話說,他每天同時活在 AI 研究人員的樂觀預測裡,也活在大企業推進緩慢的現實裡。這場訪談裡,他把兩個世界之間的落差講得很清楚。
每天精選 6 則要聞、一則產業名人訪談,五分鐘跟上。
萊維這場談話有幾個值得停下來想的點:第一,企業導入 AI 代理人的速度比外界預期慢,原因不是技術,是組織;第二,代理人的「記憶」問題比大多數人意識到的還棘手;第三,誰為 AI 決策負責,目前沒有答案;第四,Meta 是今年 AI 競賽裡最大的意外;第五,萊維對所謂「AI 末日風險」的評估,比他的生物學界朋友冷靜很多。合在一起看,這不是一場唱衰 AI 的談話,而是一個每天和企業現場打交道的人,告訴你距離真正落地還差哪幾步。
◎代理人卡關,不是因為技術不夠,是因為企業沒準備好
萊維說得直接:現在大多數企業的資料環境根本不適合部署代理人。存取權限沒整理,資料治理沒到位,安全架構是為人設計的而不是為程式設計的。代理人需要讀資料,寫資料,觸發流程,但企業內部有多少資料是散在不同系統,沒有統一管控的?幾乎全部。他的比喻很準:自動駕駛如果只需要在空曠的測試場跑,其實不難;難的是它要跟行人,機車,違規停車共存。企業裡的 AI 代理人面對的就是這種混亂現場,差別是這裡的障礙物是幾十年的舊流程和幾百個人的工作習慣。
◎代理人的記憶問題,比隱私洩漏更難解

萊維舉了一個很具體的例子:假設一個 AI 代理人處理貸款審核,它會從過去的案例裡學習判斷。問題是,它怎麼確保它在審核你的案子時,不會把別人的資料滲進來?人類審核員靠的是直覺和職業訓練來區隔不同案件的資訊。代理人沒有這個直覺。他說,你用 AI 聊天服務的記憶功能,有時候它會在完全不相關的對話裡突然提起你一個月前說的事——那個問題在企業場景裡就變成法律風險。這不是 AI 能力不足,這是我們還沒有想清楚代理人應該記什麼,忘什麼,在什麼情境下隔離什麼。
◎誰為 AI 的決定負責,目前沒有人
這是整場最現實的一段。萊維說得很白:我們不能一邊說 AI 具備超級智慧,可以做關鍵決策,一邊又說整個技術供應鏈對決策結果不承擔任何責任。但現在就是這個狀態。服務提供商說責任在你,你說責任在模型,模型開發商躲在使用條款後面。他的觀察是:這個問題還沒有被真正測試過,因為 AI 在真正關鍵的決策場景裡還太早期。未來十年,這個問題一定會被法院和監管機關強迫解決。他不悲觀,他覺得新型態的保險和風險金融化工具會出現——但那是將來的事,現在就是一片模糊。
◎Meta 是今年最大的意外,五強格局成形
被問到哪家 AI 實驗室最讓他意外,萊維沒有選最常被提起的幾家,他說是 Meta。Meta 旗下的開放原始碼大型語言模型 Llama 系列,今年從讓人看不清方向,到 Llama 4 系列明顯逼近前沿水準,中間還經歷了大規模組織調整。他認為目前美國形成了五強並跑的局面:Meta,DeepMind(Google 旗下 AI 研究機構),Anthropic(Claude 模型的開發商),OpenAI,還有 SpaceX。他的結論是:競爭激烈是好事,模型越來越便宜,能力越來越強,企業是直接受益者。
◎對 AI 風險的評估:比生物學界朋友冷靜,但不是沒在看
主持人問到所謂 Poom——AI 研究圈對 AI 失控導致人類文明崩潰風險的一種量化討論——萊維給的數字是低於 2 到 3%。他說他的生物學界朋友比他緊張多了,然後補了一句:數學界現在最怕的是量子運算對現有加密系統的威脅,那個他承認有點擔心。但整體而言,他的立場是:對齊問題(讓 AI 按照人類意圖行動的技術挑戰)是真實存在的關鍵問題,只是現在更急迫的工作是把企業的資料基礎設施蓋好,把異常行為偵測系統建起來,先解決可以解決的事。
萊維這場談話沒有廉價的樂觀,也沒有嚇人的末日預言。他的核心判斷就一句話:AI 的技術進步已經跑在企業準備度的前面很遠,這個落差不是壞事,是機會。誰能幫企業把模型突破轉化成實際可用的系統,誰就在接下來幾年裡有生意做。這不是新劇本——每次技術浪潮都是這樣收場的。但這次的基礎設施工程量,比以往任何一次都大。
萊維說他同時活在兩個世界:矽谷研究人員的樂觀預測,以及銀行,藥廠,製造業的現實推進速度;他認為代理人的普及會比多數人預期的慢。
列舉企業導入代理人的實際障礙:資料環境未整備,存取控制與資料治理不足,人在流程中的角色尚未釐清,合規團隊不確定 AI 決策的法律責任歸屬。
以貸款審核為例,說明代理人的記憶與資料隔離問題:代理人無法像人類一樣直覺地區隔不同客戶的資訊,可能在未來的工作流程中意外洩漏資料。
討論 AI 決策的責任歸屬:他認為不能同時主張 AI 具備超級智慧又讓整個供應鏈免責,但目前因為 AI 在關鍵場景仍屬早期,這個問題尚未被法律真正測試。
談到企業資安基礎設施的建置需求:Box,Cisco,Palo Alto Networks,Salesforce 等平台都需要為代理人時代重新建立威脅偵測與防禦系統。
被問哪家 AI 實驗室最讓他意外,他點名 Meta:Llama 系列今年進展幅度超出預期,目前他認為美國形成 Meta,DeepMind,Anthropic,OpenAI,SpaceX 五強並跑格局。
對 AI 末日風險(Poom)給出個人評估:低於 2 到 3%;提到數學界對量子運算破解現有加密系統的擔憂讓他稍感不安,但整體立場偏向先解決可解決的基礎設施問題。
看完今天的,讓明天的自己送上門
每天精選 6 則要聞、一則產業名人訪談,五分鐘跟上。
已出刊 165 期 ・ 隨時可退訂

