【專訪】哈拉瑞警告:AI法人化才是那只狐狸進雞舍的門
這場對談沒有新產品要賣,沒有財報要吹,講者也不是矽谷那批天天上台喊AGI的人。哈拉瑞是歷史學家,寫過《人類大歷史》《人類大命運》《連結》,靠的是把人類幾萬年的行為模式講成一則則故事讓你聽懂。主持人開場就把調子定了:過去世代能把智慧一代一代傳下去,是因為變化夠慢;現在一個人的一生裡就要吞下三場革命,一種會做決定的智能,一場搶著控制它的爭奪,一堆比你更了解你自己的數據。這局面不是危言,是他四十分鐘裡逐條攤開的帳。
每天精選 6 則要聞、一則產業名人訪談,五分鐘跟上。
整場圍著幾個判斷走:AI不是工具是agent,這差別決定了后面所有事;民主是一種對話,對話的技術一變,民主就地震;誰控制數據誰就控制世界,而且這場帝國競爭比過去任何一場都更容易把權力集中到一兩個國家手裡;真相從來打不過謊言,AI只會讓這場競賽更不對等;最后一個問題最扎心——如果連思考,連愛都能被模擬,人類還剩下什麼是自己的。
◎工具與agent,一字之差就是全部的錢
哈拉瑞講得很直白:如果AI只是工具,那砸進去的幾千億美元都是浪費,因為投資人要的從來不是工具,是能自己做決定,自己發明新東西的東西。他舉印刷機和原子彈當反例——這兩樣東西再厲害,也不能自己決定印什么,炸哪裡,決定的永遠是人。AI不一樣,它能自己選目標,自己造下一代武器,自己管一家沒有人類股東的公司。矽谷嘴上說要造神又要神當奴隸,這句話本身就是矛盾,他一句話戳破,聽著挺爽。
◎民主是對話,對話工具一換,地基就晃
這段是全場最扎實的歷史論證。哈拉瑞說古代沒有大規模民主,不是因為人不想要,是因為技術上開不了會——雅典人能在廣場上吵,但你沒法讓分散在千里外的葡萄牙王國全體公民同時討論打仗還是求和。民主真正靠的是印刷術,廣播,電視,網路這些讓幾百萬人能同時對話的技術,技術一變,地基就震。社群媒體這十年的動蕩,他認為就是這場地震的最新一次。
◎法人身份是那只狐狸進雞舍的門
這是全場最容易被忽略卻最致命的一點。哈拉瑞提到阿根廷政府一個月前宣布要給AI法人資格,意思是AI可以開銀行帳戶,可以告你,可以完全不靠人類運作一家公司。過去公司再怎么叫法人,決策的還是人;一旦AI真正拿到法人身份,決策權就實質轉移了。他說得很准:人類本來就不擅長金融,法律這些龐大的科層系統,我們掌控它們只因為星球上沒有別的東西能搶走,現在有了。
◎帝國競賽這次不一樣,因為多了一個killswitch
哈拉瑞把這場中美數據競爭跟羅馬帝國,大英帝國並列比較,結論是這次更極端。羅馬沒法把埃及的麥田搬到義大利,大英帝國沒法把伊拉克的油田搬去約克郡,但AI時代可以把全世界的代碼和信息集中到一兩個國家手里,而且還能裝一個開關——他舉例烏克蘭戰場上,某次事件里Starlink一關,無人機就停了。這代表主權在AI時代比工業時代更脆弱,你只能選當附庸或者當局外人,他說留給你自己造替代系統的火車已經快開走。
◎真相打不過故事,這次對手升級了
哈拉瑞的老本行判斷:真相成本高,複雜,常常令人不舒服,虛構便宜,簡單,討喜,所以歷史上虛構總占優勢,人類只能靠制度硬撐,新聞業,科學建制都是這種硬撐出來的防線。他還提了一個嚇人的數字——現在做AI的公司,花在讓AI更強大的錢和花在確保它安全的錢,比例大概是一百比一。這個比例才是這場對談真正該被記住的數字,不是任何模型參數。
哈拉瑞這場沒有給答案,他給的是一份帳單:語言,對話,法人身份,主權,真相,這些人類文明幾千年靠語言搭出來的支柱,現在第一次遇到一個比人類更會用語言的東西。他自己都承認寫作是他一生的武器,而AI可能十年內比他寫得更好。這不是危言聳聽,是他把歷史攤開來讓你自己算——百比一的安全投入比例,才是這場對談留給每個做決策的人最該記住的一句話。
開場鋪陳三場同時發生的革命:會決策的AI,爭奪AI控制權的競賽,比人更了解人的數據
回答想回到石器時代認知革命,提出語言是人類統治地球的關鍵技術,AI可能是語言本身脫離人類的載體
論證AI是agent而非工具,以印刷機,原子彈作對照,指出矽谷造神又要神當奴隸的敘事矛盾
談法人身份議題,提到阿根廷一個月前宣布給AI法人資格,可組建無人類的公司
分析中美數據帝國競賽,與羅馬帝國,大英帝國比較集中化程度,提及Starlink在烏克蘭戰場上的killswitch事件
論真相與虛構的競爭關係,提出僅約5%人類理解金融體系,並類比馬匹不理解控制其生活的金融系統
討論AI能否思考,能否感受的哲學問題,談及年輕人與AI發展親密關係的現象
結尾提出智慧與智能的區別,並揭露AI公司投入安全與投入性能的預算比例約為一比一百
看完今天的,讓明天的自己送上門
每天精選 6 則要聞、一則產業名人訪談,五分鐘跟上。
已出刊 104 期 ・ 隨時可退訂
