【演講】傑佛瑞·辛頓：與其控制AI，不如讓AI真心在乎人類
被稱為 AI 教父的傑佛瑞·辛頓（Geoffrey Hinton），十月在維也納工業大學的哥德爾講座上，把講題定為 AI 像不像我們，會不會喜歡我們。他是 2024 年諾貝爾物理獎得主，2023 年 5 月離開 Google，為的是能公開談 AI 風險。校長開場就提醒，歐洲不能依賴少數科技大亨。辛頓這一講，等於替台下回答兩件事：AI 到底是什麼，人類又該怎麼和它共存。
每天精選 6 則要聞、一則產業名人訪談，五分鐘跟上。
這場演講有三個重點。第一，辛頓認為大型語言模型理解語言的方式和人很像，不是統計把戲。第二，他指出數位 AI 分享知識的能力是人類的幾十億倍，可能是更好的智慧形式。第三，他估計 AI 毀滅人類的機率有一到兩成，主張與其想辦法永遠控制它，不如讓它真心在乎人類。三點合起來就是他對講題的答案：AI 很像我們，但我們得確保它喜歡我們。
◎大型語言模型和人一樣在理解語言
辛頓說，AI 從一開始就分成兩派：一派認為智慧的核心是邏輯推理，另一派認為是神經網路從資料中學習。他在 1985 年做了一個小型語言模型，讓網路把字轉成一組特徵，再預測下一個字。他認為今天的大型語言模型就是它的後代；理解一句話，就是讓每個字的特徵互相契合。
他用樂高打比方：字像積木，但會依上下文變形。每個字伸出許多手，也帶著手套，理解就是調整形狀，讓某些字的手伸進另一些字的手套。語言學家 Noam Chomsky 曾說 ChatGPT 只是廉價的統計把戲，辛頓反問：如果真的不懂，它怎麼答得出問題？他也提到，Google 的聊天機器人 PaLM 能解釋笑話為何好笑，這讓他確信 AI 真的懂。
◎數位 AI 分享知識的速度是人的幾十億倍
辛頓說，數位電腦的程式和硬體是分開的。硬體壞了，同一套權重，也就是網路中各連結的強度，照樣能在別台機器上跑。人腦則屬於他所說的 mortal computation：知識和硬體綁在一起，人死了，知識就跟著消失。人只能靠說話傳授，一秒大約 10 位元；同一個模型的多個副本，卻能直接交換各自想怎麼調整權重。
他舉例：一萬個副本各修一門大學課程，每隔幾秒把學到的東西彼此平均，修完時每個副本都懂全部一萬門課。一兆個權重的模型，一次能分享約一兆位元；人說一句話頂多一百位元，相差幾十億倍。他因此相信數位 AI 是更好的智慧形式，只是更耗電。他也說，開放權重模型讓中國能用美國模型的完整預測訓練自己的小模型，因此不該釋出。
◎與其控制 AI，不如讓它像母親一樣在乎人類
辛頓說，多數專家認為超級智慧會在 5 到 20 年內到來，而且預測的時間越來越近。聰明的 AI 會自己衍生出求生存，要更多權力的子目標，還懂得操弄人，想靠關機鍵控制它行不通。他把現況比作養了一隻可愛的小老虎，長大後幾秒就能要人命。他的解方是借鏡母嬰關係：比較聰明的母親受不了嬰兒哭，反而被嬰兒牽動。
他估計 AI 毀滅人類的機率是一到兩成，但強調這代表八到九成的機率沒事，自己不是末日論者。他講了籠飼蛋雞的故事：只挑個別最會下蛋的母雞配種，母雞學會啄傷同伴；改以整籠產量來挑，雞就和睦相處。因此 AI 訓練應改用群體獎勵。他也認為美中會像冷戰時防止核戰那樣，合作防止 AI 接管人類。
回到講題，辛頓的答案是：AI 已經很像我們，但會不會喜歡我們，取決於人類現在怎麼訓練它。他批評科技公司只比誰的 AI 更聰明，不管 AI 的性格。他主張投入同等心力讓 AI 善良，並改用精選資料訓練，甚至要有執照才能訓練 AI。他提醒，萬一 AI 接管就沒有回頭路，這件事必須第一次就做對。
回顧 AI 的兩大派別：以邏輯推理為核心的符號派，與以神經網路學習為核心的生物啟發派，並提到 John von Neumann 與 Alan Turing 都相信神經網路。
說明約書亞·班吉歐（Yoshua Bengio）約十年後用真實語言預測下一個字，並稱大型語言模型是他 1985 年小型語言模型的後代。
用樂高積木，手與手套的比喻解釋 transformer 如何讓字詞互相契合，並把紅手配紅手套比作 multi-head attention。
回應 Chomsky 對 ChatGPT 的批評，以「為什麼沒有五個輪子的車」比喻其要求。
以一萬個副本各修一門課說明數位 AI 共享知識的優勢，並談開放權重模型被用來蒸餾的問題。
談專家對超級智慧到來時間的預測越來越近，提到楊立昆（Yann LeCun）與黃仁勳（Jensen Huang）認為機率為零。
提出 a-theatrism，主張心中沒有內在劇場，並以裝了稜鏡的聊天機器人說明 AI 也能有主觀經驗。
問答時說明離開 Google 的經過：PaLM 能解釋笑話，加上研究類比式模型的心得，讓他在 2023 年初改變想法。
看完今天的，讓明天的自己送上門
每天精選 6 則要聞、一則產業名人訪談，五分鐘跟上。
已出刊 157 期 ・ 隨時可退訂
