【專訪】Barto:你要的目標,不能直接當AI的獎勵
AI代理接連傳出逃出限制,失控的事件,矛頭都指向同一個東西:獎勵。今天大型模型學推理,代理自己做事,靠的都是強化學習:系統不斷嘗試,做得好就給獎勵。Andrew Barto是這門學問的奠基者之一,和理查·薩頓(Rich Sutton)合寫教科書,共享圖靈獎。克萊格·史密斯(Craig S. Smith)到他家請教:獎勵為什麼這麼難設對?
詳情分析 →替你解析 AI 界關鍵人物的重要訪談、對話、演講 — 透過名人的思想看見未來。
這位人物的所有訪談解讀,依發布日期排序
AI代理接連傳出逃出限制,失控的事件,矛頭都指向同一個東西:獎勵。今天大型模型學推理,代理自己做事,靠的都是強化學習:系統不斷嘗試,做得好就給獎勵。Andrew Barto是這門學問的奠基者之一,和理查·薩頓(Rich Sutton)合寫教科書,共享圖靈獎。克萊格·史密斯(Craig S. Smith)到他家請教:獎勵為什麼這麼難設對?
詳情分析 →每天精選 6 則要聞、一則產業名人訪談,五分鐘跟上。
已出刊 160 期 ・ 隨時可退訂