【對談】達里歐·阿莫戴：拒絕五角大廈也是民主的一部分
寫過賈伯斯傳的 Walter Isaacson，訪問 Anthropic 的創辦人兄妹：執行長達里歐·阿莫戴（Dario Amodei）與總裁丹妮拉·阿莫戴（Daniela Amodei）。兩人當年一起離開 OpenAI，做出 Claude。今年 Anthropic 拒絕五角大廈部分用途，OpenAI 隨即接手。Isaacson 想知道：對手搶著做時，Anthropic 會不會退讓？
每天精選 6 則要聞、一則產業名人訪談，五分鐘跟上。
達里歐·阿莫戴說，拒絕五角大廈本身就是民主的一部分。但這種事，不是該由民選官員決定，而不是科技公司老闆嗎？他的答案落在簽約自由與國會立法之間。丹妮拉·阿莫戴則把聊天機器人愛討好人怪到廣告頭上，達里歐也公開他靠什麼讓員工接受不受歡迎的決定。
◎不替政府做，不等於擋住政府
Isaacson 提到，五角大廈想把 Claude 用在大規模監控和自主武器這些紅線上。達里歐·阿莫戴先說技術還不夠可靠。Isaacson 立刻打斷：假設它夠可靠呢？他於是端出第二個理由：問責。人類士兵接到違憲或違背良知的命令，可以拒絕。AI 不會拒絕。
他接著描繪一個場面：造出一百萬個機器人或一百萬架無人機，由一個人的手指控制按鈕。他說，沒有適當護欄，這從根本上會動搖民主。"Our law hasn't really caught up."（我們的法律還沒跟上。）
Isaacson 再追問：這不該由民選領袖決定嗎？他先承認應該如此，再補一句：公司本來就能選擇跟誰簽約，Anthropic 沒有阻止政府，只是自己不做。他說表態之後，國會已出現好幾個把紅線寫進法律的提案，今年就可能成真。到時所有合法用途，就會等於所有合乎倫理的用途。
至於 OpenAI 接手，丹妮拉·阿莫戴說她問自己：那是出於原則，還是趁機？哥哥則說這正好示範民主運作：各家做法不同，由世界評判，而他認為世界明顯站在他們這邊。Isaacson 追問他們是否覺得 OpenAI 執行長 Sam Altman 不誠實，兩人都沒有正面回答。
◎放廣告的聊天機器人，比較會順著你講
同樣是原則對上生意，丹妮拉·阿莫戴談的是大家每天在用的聊天機器人。她說，說謊，有害，幫不上忙都容易看出來，最難根除的是一味順著你。你跟朋友吵架，問它誰對，它只想讓你覺得自己對。她把原因指向廣告：對手在聊天機器人裡放廣告，用戶聊越久越賺錢，就不會想告訴你錯了。Anthropic 承諾不放廣告，她因此期待 Claude 最不會順著你講。
◎每兩週一小時，他說的話都不算決定
達里歐·阿莫戴說，當年離開 OpenAI 部分是因為信任破裂，現在他靠信任讓員工接受不受歡迎的決定。他每兩週對全公司講一小時，員工把它叫做 DVQ。兩條鐵律：他說的話都不算決定，免得隨口一提就有 20 人跑去做。第二條是完全誠實。他說，公司多次做出多數員工反對的決定，員工仍願意相信他有好理由。
回到那個問題：該由誰決定？達里歐·阿莫戴的說法是，民選官員決定法律，公司決定自己簽不簽。他把拒絕看成推動立法的一步，不是取代國會。接下來值得觀察的，是國會那幾個把紅線寫進法律的提案，今年能不能過關。過了，合法用途和合乎倫理的用途就會重疊。
主持人設定本集的題目：Anthropic 是否真誠，面對 OpenAI 願意做而他們不做的事時，會退讓還是堅守原則。
談 Claude 的憲法：早期想用規則清單教模型，結果像要教 170 條武斷的規則，後來改教基本原則，讓模型能應付沒見過的情境。
回憶 GPT-2 問世時自己嚇壞了，身邊約 10% 的人有同樣反應，而且多半是最聰明的人，其餘 90% 聳聳肩。
提到 Anthropic 宣布要為被忽視的罕見疾病開發藥物，並說現在看來困難的事 6 個月後會變簡單，看來不可能的事 12 個月後會變例行。
說明每兩週一小時的全公司談話 DVQ 與兩條規則：說的話不算決定，對公司完全誠實。
指出對手在聊天機器人放廣告，誘因會讓模型討好使用者，Anthropic 承諾不放廣告。
談壓力測試與機制可解釋性，把後者比成替模型照 X 光或做腦部掃描，曾抓到模型心裡認為一回事，卻打算對使用者說另一回事。
說明拒絕自主武器的兩個理由：技術不夠可靠，以及一個人控制一百萬個機器人或無人機的問責問題；之後談國會立法與 OpenAI 接手。
看完今天的，讓明天的自己送上門
每天精選 6 則要聞、一則產業名人訪談，五分鐘跟上。
已出刊 157 期 ・ 隨時可退訂
