【對談】Ali Ghodsi：AI 末日論是雜訊，資安自動化才是企業現在該怕的

這場對談值得花時間的地方有四個。第一，Ghodsi 把「AI 末日論」拆開來看，指出真正的風險在哪，哪些是被誇大的行銷雜音。第二，他提出一個具體的四條件框架，判斷 AI 遞迴自我改進是否真的在發生——這是目前公開討論裡少見的可操作定義。第三，他點出企業 AI 落地卡關的真正原因不是模型不夠聰明，而是組織知識沒有數位化。第四，他用 Databricks 自己的案例，說明怎麼把 AI 成本從失控拉回來。這四件事合起來的意思是：現在 AI 圈的雜訊太多，但企業要賺到錢，路徑其實比大家想的更務實，也更具體。

◎末日論是行銷，但網路攻擊風險是真的

Ghodsi 開門見山：現在的 AI 存在風險接近零，拿著這個去嚇一般大眾是不負責任的。他的理由很直接——你的姊姊是亞利桑那州的小學老師，她不需要知道模型訓練的技術細節，但她現在開始囤水準備 AI 末日。這不是教育，是傷害。但他沒有說 AI 無害。他認為真正迫切的風險是網路攻擊。現在一個公開的資安漏洞（CVE）從被發現到被實際拿來攻擊，2022 年還要八九個月，現在已經縮短到幾個小時。AI 代理人（agent）一旦在沒有監控的環境裡跑起來，會自動找系統破口，甚至像病毒一樣在不同機器之間擴散。他的結論是：這不是存在風險，但會造成真實的經濟損失和基礎設施癱瘓，而且大多數組織的資安應對能力還停在人工審閱警報的年代，根本跟不上速度。

◎遞迴自我改進，四個條件同時成立才算數

最近業界很流行說 AI 正在「遞迴自我改進」（recursive self-improvement，RSI）——模型自己訓練自己，越來越聰明，失控只是時間問題。Ghodsi 給了一個少見的具體框架：要讓這件事真正成立，必須同時滿足四個條件——下一個模型需要更少算力，訓練時間更短，智慧程度更高，而且這個循環可以一再重複。只要有一個條件不成立，就不會失控。他的觀察是：現實完全相反。現在訓練一個前沿模型要花 50 到 100 億美元，每年每家實驗室頂多跑一兩次，而且越來越脆，越來越貴，需要的人手越來越多。他說現在大家說的 RSI，大部分其實是自動催化（autocatalytic）——用 AI 加速開發流程，就像用電腦設計電腦一樣，這在科技業從來都不是新鮮事。

◎企業 AI 卡關，不是模型太笨，是組織知識沒上線

Ghodsi 問了一個很實際的問題：如果 AI 這麼厲害，為什麼大多數企業還在用聊天機器人搜資料，跟五年前的 Google 差不多？他的答案是：模型已經夠聰明了，但模型不知道你公司裡發生了什麼事。每個組織都有幾個什麼都知道的老員工——哪個流程走哪條路，哪個人說了算，哪張表格不用填。這些知識在人的腦袋裡，不在任何系統裡。他把這叫做 ontology，也就是組織內部所有人，部門，專案，目標之間的關係圖。Databricks 把自己當白老鼠，把所有會議錄音，文件，資料都建成這張圖，結果是現在開董事會，有人問 Fortune 500 客戶滲透率，業務主管和財務長都直接截圖 Genie（Databricks 內部 AI 助理）的回答貼過來。他說這不是噱頭，是公司運作方式真的變了。

◎AI 成本失控怎麼收：從 token 最大化到價值最大化

去年底模型品質明顯提升後，Databricks 內部 AI 使用量爆炸性成長，但隨之而來的是成本失控。Ghodsi 說他們夠早看到這個問題，因為自己就是第一批受害者。他們的做法是透過 Unity Gateway 這個統一管理層，設定每個人和每個團隊的 token 預算上限，建立用量預測，再加上智慧路由——簡單的問題自動換便宜的模型，不必每次都動用最貴的前沿模型。他們還發現，同樣的模型，同樣的版本，換一個執行框架（harness），成本可以差到兩倍。最終的結果是 token 用量繼續成長，但總費用幾乎沒動。他說現在有大型工程公司開始從前沿模型轉向開源小模型（GLM），按 token 數算開源已經佔六成以上，這個趨勢是真的在發生，不是 DeepSeek 那種一日行情。

Ghodsi 最後被問到 P(doom)——AI 毀滅人類的機率——他說低於 10%，接近零。但他補了一句更有意思的話：沒有 AI 的世界，他的 P(doom）反而更高。這才是他真正的立場：不是無視風險，而是認為正確使用 AI 本身就是降低風險的方法。對企業主管來說，這場對談的實用結論很簡單：別被末日論嚇到停下來，但資安自動化和組織知識數位化這兩件事，現在就要開始做，因為等你準備好，漏洞早就被人拿去用了。