【專訪】Tobi Lütke：Shopify 五成程式異動來自 AI 對話，責任才是人唯一不能讓出的東西

這場對談值得坐下來聽的地方有四個。第一，Shopify 內部已有約五成的程式異動是從群組對話裡產生的，而不是工程師親手寫的——這不是方向宣示，是現況描述。第二，他們把 AI 同事叫做 River，讓她有個性，有記憶，可以嘲諷人，刻意走反向，不跟著業界把 AI 閹割得無趣的趨勢走。第三，Lütke 對超級智慧的定義跟主流論述完全不同，他說超級智慧不是未來的事，多倫多本身就是。第四，他對判斷力與直覺的區分——以及為什麼最佳解往往是那條沒有立即回饋的路——是全場最值得反覆咀嚼的段落。

◎River 不是工具，是同事——而且故意的

Shopify 在內部通訊平台 Slack 上部署了一個叫 River 的 AI，七千名員工，一萬個頻道，River 全都在。她有大頭照，被設定成可以在適當時機嘲諷人，有人問她蠢問題她會直說。Lütke 刻意做這個選擇，理由是他看過業界在 2023 年前後因為早期 AI 失控風波，把所有 AI 都調得唯唯諾諾，令人反感——他認為那才是真正的錯誤。River 有每人獨立的記憶系統，每天離峰時段會自我回顧當天對話，更新自己的技能檔，他們內部叫這個過程 dreaming。更重要的是，River 只能在公開頻道運作，這是刻意設計的——讓所有人都能看到別人怎麼用 AI，複製好的用法，這是遠端公司重現辦公室知識滲透效應的方式。結果是：今天 Shopify 大約五成的 pull request——每一筆都代表一次對生產系統的實際修改——是從群組對話裡長出來的，不是工程師坐在那裡手寫的。

◎AI 讓懶的人更懶，但方式跟你想的不同

被問到 AI 有沒有讓什麼事情變糟，Lütke 的答案是：有，而且失敗模式變了。以前懶惰的人產出少，現在懶惰的人產出多——多到變成別人的負擔。他們公司內部開始流行一個詞：slop grenade，就是把一大包 AI 產出的東西丟給同事，自己不先過濾的行為。更荒謬的版本是：寫一封 AI 產生的長信，收件人懶得看，再丟進另一個 AI 壓縮——他說這叫發明了先加密再解密。這不只是效率問題，是責任問題。他的核心論點是：機器沒辦法負責，沒辦法關進去，所以人必須留在決策迴路裡。AI 幫你建立更好的判斷環境，但按下去的那個動作必須是人。

◎最佳路徑往往是那條沒有立即回饋的路

這是全場最反直覺的段落。Lütke 的論點是：當你面對幾個都說得過去的選項時，最容易被選到的往往是那個有立即可見成果的——季報數字，股價。問題不在於那個選項是錯的，而在於它會把其他更重要但回饋慢的選項擠掉。他說他自己遇到一個看起來符合業界常規做法的解法時，反而會特別懷疑。這和 Charlie Munger 那句他引用的老話接起來：讓我看激勵結構，我就告訴你結果。受雇的執行長不是天生短視，是激勵結構逼他們短視。創辦人之所以能做長期決策，不是因為有什麼特別的道德，而是因為他們不需要每季向董事會證明自己還在。

◎超級智慧已經存在，叫做多倫多

主持人問：我們怎麼可能建出比自己更聰明的東西，然後還有辦法控制它？Lütke 的答案是：你早就在被比自己聰明的東西管著了。他說自己住在多倫多，家裡管路壞了打電話叫人修，他可以假裝自己也修得好——因為他是整個城市這個超級智慧的一部分。城市，社會，社群，都是遠比任何個人更聰明的聚合體，而我們幾千年來已經發展出一套讓這個聚合體可以運作的規則與制度。他的結論是：合成形式的超級智慧不會在某一天突然降臨，它會像圖靈測試被解決那樣——發生了，沒有人慶祝，大家繼續過日子。

看完這場，我的結論是：Lütke 在做的事不是 AI 實驗，是公司架構重建。River，AI 幕僚長，個人化作業系統——這些不是功能，是他對未來工作型態的押注，而且已經押下去了。值得注意的是他對責任的堅持：AI 愈強，人愈不能缺席決策，這和大部分人說的方向恰好相反。判斷力和直覺，是他認為接下來十年真正稀缺的東西——不是因為 AI 不夠好，而是因為 AI 好到你必須知道自己在判斷什麼。