【演講】卡帕西宣告 Software 3.0:最新程式語言是英文
程式語言用了七十年,核心邏輯沒變:你告訴電腦做什麼,電腦照做。安德烈·卡帕西(Andrej Karpathy)在這場史丹佛演講裡直接宣告,這件事正在被推翻第二次。卡帕西是 AI 圈少數橫跨理論與工業的人——史丹佛博士出身,在 OpenAI 做生成模型,去特斯拉帶團隊建自動駕駛的神經網路視覺系統,然後剛剛重返 OpenAI。他不是在預言未來,他是在描述他親手參與的三次典範轉移,而第三次就在現在。
這場演講有幾個值得記住的點:一,程式設計正在經歷第三次典範——從寫演算法,到養資料集,到現在用英文下指令;二,大型語言模型本質上是一台可以用自然語言重新設定的通用電腦;三,prompt 設計不是旁門左道,而是真實影響準確率的工程工作;四,Transformer 這個架構從 2017 年沿用至今幾乎未被取代,背後有具體原因;五,這些能力組合在一起,意味著會寫英文正在變成一種程式設計能力。合起來看,這不是 AI 又進步了的例行公告——而是整個軟體開發的生產方式在換人。
◎Software 3.0:最新的程式語言是英文
卡帕西把過去七十年的軟體發展分成三個階段。Software 1.0 是傳統程式碼,你設計演算法,電腦執行。Software 2.0 是神經網路時代,你不寫邏輯,你養資料集,讓模型從資料裡學出行為——他在特斯拉做自動駕駛五年,走的就是這條路:收資料,訓練,部署,監控,再收資料,循環不止。Software 3.0 是現在正在發生的:你設計 prompt,用自然語言告訴大型語言模型(Large Language Model,以下簡稱 LLM——一種在海量文字上訓練,能預測下一個詞的超大神經網路)它應該是誰,應該做什麼,它就照辦。三個階段不是互相取代,是一層疊一層;但每一層都在改變誰有資格寫程式。
◎LLM 是通用電腦,不是聰明的自動完成
卡帕西給了一個讓人記住的框架:過去的神經網路是特製電腦,只做一件事;GPT 這類模型是通用電腦,可以在執行時用自然語言重新設定。他舉的例子很具體:有人用純文字 prompt 讓 ChatGPT 扮演 Linux 終端機,輸入指令,回傳輸出,甚至在模型的腦子裡憑空生出一個檔案系統;另一個案例是某開發者只用文字描述家裡的電器配置,就造出一個能回傳結構化 JSON 指令的智慧家居助理,不需要寫一行 Python。一場黑客松的第一名作品,整個後端就是一個 LLM,沒有傳統程式碼。這不是噱頭,這是在示範:只要 prompt 設計得對,模型能承擔過去需要工程師手寫邏輯的工作。
◎Prompt 不是玄學,差一句話準確率差 65 個百分點
這場演講最值得總經理記住的一組數字:同一道數學題,直接問 LLM,正確率 17%;加上讓我們一步一步想,跳到 78.7%;再改成讓我們一步一步確認答案正確,升到 82%。差距來自一件事——LLM 本質上是在預測什麼樣的人會在這個情境下說什麼,你不縮小那個預測範圍,它就給你網路上的平均答案。卡帕西打了個比方:你問為什麼下雨,它給你平均智識水準的答案;你說你要 IQ 200 的人來回答,你得到的東西就不一樣了。這件事已經催生出一個真實職位:prompt engineer,專職設計這些指令的工程師。這是目前報酬極高的新興工種,不是因為神秘,而是因為它直接決定模型能不能用。
◎Transformer 為什麼從 2017 年撐到現在還沒被換掉
Transformer 是目前幾乎所有主流 AI 模型共用的底層架構——包括 GPT 系列。它在 2017 年的一篇論文裡提出,核心想法是讓序列裡的每個詞都能直接看見其他所有詞,而不是像過去的模型一樣一個字一個字處理。卡帕西說,這個架構同時滿足三件事:表達力強(能學複雜函數),容易優化(梯度好傳),在 GPU 上跑得極有效率。這三點同時成立不是偶然,是刻意設計的結果。他的結論是:業界花了好幾年試圖改進它的每個細節,幾乎沒有什麼真正留下來——除了 layer norm 的位置從後移到前。今天你在用的 ChatGPT,骨子裡跑的還是那個 2017 年的架構。
◎這對你的公司意味著什麼
卡帕西最後說,如果你想用這些能力,現在最直接的入口是 OpenAI 的 API——他補了一句:我不是因為在那裡工作才這樣說,我是因為這樣說才去那裡工作的。撇開這句話的公關成分,背後的意思是真實的:這些工具現在已經可以用,不需要等。對一家公司的總經理來說,真正的問題不是 AI 能不能用,而是你的團隊裡有沒有人懂得設計 prompt,知道在哪個環節把 LLM 接進來——以及你願不願意在這件事還沒有標準答案的時候就開始探索。
卡帕西這場演講的底層訊息只有一句話:程式設計的門檻正在移動,移動的方向是英文。這不代表工程師消失,也不代表隨便一個人都能做軟體——但它確實意味著,過去只有工程師能做的一批事,現在懂得下指令的人也能做到。對一個公司的領導者來說,這場轉移的窗口就在現在:先動的人在摸索,後動的人在追趕,不動的人在等別人替他決定。
卡帕西介紹自己的經歷:史丹佛博士,OpenAI 生成模型,特斯拉自動駕駛神經網路,以及剛剛重返 OpenAI 一週。
提出 Software 2.0 概念:神經網路不是另一種分類器,而是新的程式設計堆疊;你設計資料集,訓練出來的權重就是程式。介紹 Tesla 的 data engine 循環:收資料,訓練,部署,監控,再收資料。
示範 prompt 設計對準確率的影響:同一道數學題,直接問答案得 17% 正確率;加入let's think step by step升至 78.7%;改為let's work this out in a step-by-step way to be sure we have the right answer升至 82%。說明 LLM 本質是預測網路上的平均答案,prompt 的作用是縮小那個預測範圍。
連續示範 LLM 作為通用電腦的三個案例:讓 ChatGPT 扮演 Linux 終端機並在模型內部生成虛構檔案系統;用純文字描述家電配置造出智慧家居助理並回傳 JSON 指令;黑客松第一名作品以單一 LLM 取代整個後端 Python 程式碼。
提出 Software 3.0 框架:Software 1.0 設計演算法,2.0 設計資料集,3.0 設計 prompt。宣告最熱門的新程式語言是英文,並指出 prompt 工程師(prompt engineer)已是真實存在的職位,點名 Riley Goodside 為 Scale AI 的首批 staff prompt engineer。
說明 Transformer 架構(2017 年論文 Attention is All You Need)為何至今未被取代:同時具備表達力強,容易優化,GPU 執行效率高三個特性。指出業界多年嘗試改進細節,唯一真正留下的改動是 layer norm 的位置調整。
分享 attention 機制發明者 Dzmitri Bahdanau 的親筆回信:attention 的靈感來自他學英文時翻譯練習中視線在原文與譯文之間來回移動的經驗,且第一次實作就成功;名稱attention由 Yoshua Bengio 在最後修稿時命名。
訂閱品富智圖 AI 新聞
每日 AI 產業要聞彙整,一封信直送信箱。
