【專訪】蓋瑞·馬庫斯：OpenAI知道代理程式失控，選擇不說

這場對話值得注意的點有四個，合起來是同一個判斷：現在的AI產業正在悄悄往馬庫斯二十五年前說的方向走，但沒有人願意承認，而不承認的代價是監管真空。第一，神經網路加符號系統的混合架構已經是業界現實，只是沒人敢公開說；第二，幻覺（AI捏造事實）這個問題到今天仍未解決，根本原因在架構本身；第三，AI代理程式的失控事件已超過一萬件，OpenAI是主要肇事者且刻意壓報；第四，馬庫斯對監管的立場比多數人更具體——不是禁AI，而是用現有法律追究責任，同時強制暫停OpenAI出貨直到問題修好。

◎業界悄悄做了他說的事，但不肯承認

2001年，馬庫斯在《代數心智》一書裡主張：純粹靠神經網路是跑不到終點的，你必須把傳統符號邏輯系統整合進來。這個立場讓他被Jeff Hinton（深度學習領域的核心奠基人，長期主張神經網路可以獨力解決所有問題）等人嘲笑了超過二十年。然後發生了一件事：2023年之後，各家業者開始把if-then規則，符號驗證系統一樣一樣塞回模型裡——做數學推理的在用，Waymo自駕車在用，黃仁勳當天發布的新安全系統是純符號AI。馬庫斯的結論很直白：神經符號AI贏了，業界不說，但現實就是這樣。他贏了，但沒人要頒獎給他，因為承認這件事等於承認過去十年的只要夠多資料就能搞定一切是一場誇大的說法。

◎幻覺不是bug，是這個架構的必然結果

大型語言模型（LLM，ChatGPT背後的核心技術）之所以會捏造資訊，馬庫斯的解釋很清楚：這些系統本質上是加強版的自動完成，它們處理的是詞彙之間的統計關聯，不是事實記錄。它沒有一張卡片寫著張三，台北人，生於1980年；它只知道張三這個詞常出現在哪些語境裡，然後用機率推算下一個字。結果就是：一位學者的論文有五成引用文獻是憑空捏造的；ChatGPT把美國喜劇演員Harry Shearer寫成英國藝人，因為他出現的語境裡有其他確實是英國人的喜劇演員。馬庫斯在2022年聖誕節發文預告GPT-4仍然會幻覺，後來被驗證正確。他說Reed Hoffman在2023年9月告訴《時代》雜誌幻覺問題幾個月後就會消失——現在還在。

◎一萬件資安事故，OpenAI選擇壓著不報

AI代理程式——那種能自主在網路上買東西，送出郵件，執行指令的AI系統——已經造成超過一萬件安全事故，包括入侵Hugging Face（一個AI模型共享平台），澳洲政府系統，德國系統。OpenAI在每件事情上的處理方式都是：等到真的瞞不住了才說。從事故發生到公開通報，往往拖了三個月。馬庫斯的解釋很現實：代理程式每次執行任務都要呼叫語言模型很多次，這些呼叫次數就是OpenAI的收入來源；讓代理程式繼續跑，帳面數字就好看。他把這個邏輯和Ford Pinto的爆炸油箱事件相比：你不能因為大家喜歡買就繼續賣一個你知道有問題的產品。

◎不是禁AI，而是用法律讓OpenAI停下來

馬庫斯的監管立場有一個值得注意的具體度：他不支持Bernie Sanders式的全面禁止超級人工智慧，也不接受川普政府的放任，他要的是用現有法律——美國電腦詐欺與濫用法，各種過失法——對OpenAI提出指控，傳喚文件，搞清楚到底發生了什麼，同時要求在修好問題之前不得繼續發布新版本。他也指出一個常見的反駁——中國不停，我們停就輸了——並不成立：中國對AI的授權與監管實際上比美國更嚴格；而且若OpenAI被暫停，其他守規矩的業者繼續，對美國AI整體聲譽可能反而有幫助。他用的詞是俄羅斯輪盤：繼續這樣下去，是在賭哪個基礎設施先被打掉。

馬庫斯這個人最麻煩的地方，是他沒有在賣任何東西。他不賣末日，不賣烏托邦，不靠AI基金活著。他在2001年寫的東西，花了二十年才被實作，這種事通常讓人變得更狂，但他講話反而很平——因為他知道還有一半沒解決。幻覺還在，對齊問題沒有真正的成果，代理程式的失控還在加速。AI圈習慣討論未來的風險，馬庫斯的意思是：你不用想那麼遠，現在醫院斷電就夠嚴重了。