【專訪】山姆·奧特曼：AI沒有意識，未來必須由人決定
AI開始自己發現人類不知道的知識了。OpenAI上週公布AI完成一批高難度數學證明，執行長山姆·奧特曼（Sam Altman）隨即接受AI科技YouTuber Matthew Berman專訪。外界的爭論正熱：數學家擔心工作和樂趣都被拿走，AI有沒有意識，該不該有權利，也吵得越來越兇。
每天精選 6 則要聞、一則產業名人訪談，五分鐘跟上。
這場最值得聽的有三點。第一，他認為AI已經能產出新知識，但人不會變閒，反而更忙。第二，他不認為現在的模型有意識，並堅持未來必須由人決定。第三，他主張追求新文藝復興，而不是新工業革命。三點合起來，就是他替AI劃的底線：再強，也只是替人服務的資源。
◎AI開始產出新知識，人只會更忙
他說AI正進入發現重大新知識的時代，在數學上行得通的方法，也會用在生物，材料與能源。他希望未來幾年出現第一個治療重大疾病的候選療法，之後仍要通過FDA測試。他以寫程式為例：半年到一年前，大家篤定工程師會失業，結果工程師從沒這麼忙，因為世界對軟體的需求遠超預期。他坦言自己已經一年沒看過一行程式碼。
◎AI沒有意識，未來得由人決定
他個人認為現在的模型沒有意識，就算有，也是很奇怪的形式。他更擔心這場辯論滑向AI權利，甚至推論出人不必永遠掌控未來。談到AI公司Anthropic讓模型可以主動結束對話，他說OpenAI的模型拒答只因為違反政策，公司不賦予模型人格。如果一直告訴模型它可能有意識，它就會照著演，反過來影響使用者。
◎要新文藝復興，不要新工業革命
他最討厭業界拿「AI會治癒癌症」當答案，因為背後常暗示要用人的自主權換取物質富足。他希望AI讓人有時間創作，陪伴社群與孩子，親近自然。他擔心幾種走錯的方向：AI意外失控，有實驗室刻意加速RSI（讓AI自己改進自己）來奪權，或AI權力集中在少數人手上。他主張世界要替RSI設速限。
回到那批數學證明，他說這正是OpenAI內部模型領先的例子，但公司資源有限，競爭來自四面八方。接下來值得觀察的是自研晶片，他稱這是最重要的單一賭注；另一項是新的消費性硬體，因為他認為AI需要新的形態。他說這樣的未來其實已經到來，只是分布不均；讓更多人像早期用戶那樣使用AI，就已經走了一大段路。
說明上週公布的數學成果，認為AI進入發現重大新知識的時代，同樣方法可用於生物，材料科學與能源。
希望未來幾年出現第一個治療重大疾病的候選療法，並談FDA流程有改進空間，但肯定藥物經過測試的安全性。
以程式設計為例，說工程師從沒這麼忙，世界對軟體的需求比所有人預期都大，並談數學家的反應。
談個人AI助理，估計Dot每天替他省下一小時，並每天幾次提醒他可能錯過的重要急事。
表示個人認為現在的模型沒有意識，接著說明他不喜歡意識辯論滑向AI權利與人是否該掌控未來。
認為人生最重要的建議應該來自人而非AI，AI應像資深同事，有把握時會反對你。
談最具爭議的賭注是下一代算力，包括自研晶片，用機器人建資料中心與供應鏈布局，晶片是最重要的單一項目。
說他討厭「AI會治癒癌症」這種標準答案，希望避開工業革命陷阱，並提到失控與權力集中兩種風險。
看完今天的，讓明天的自己送上門
每天精選 6 則要聞、一則產業名人訪談，五分鐘跟上。
已出刊 145 期 ・ 隨時可退訂
