許多在 AI 領域工作最優秀的人，加入這個領域並非因為他們想要控制他人。
這不是我原本在這裡發布的貼文。原本的貼文是 AI 的廢話，這也給了我一個教訓，以後不該發布那樣的內容。即使你閱讀後覺得它看起來不錯，它仍然是 AI 的廢話，而其他人都能看出來。這篇重寫的貼文表達的是相同的想法，但沒有廢話。
此外，「主人的工具永遠無法拆毀主人的房子」。
聽著，如果你在一個前沿實驗室工作，我不怪你。你正坐在歷史的關鍵時刻最前排。但請考慮你正在建造什麼，以及它是為誰而建的。
少數秘密的閉源實驗室，集中了運算能力、人才和部署權力，將導致政治合法性的集中。你可能認為你想要這樣，並且你是會善用權力的好人，但你不會，你也不是。絕對的權力導致絕對的腐敗。
AI 安全始終是一個關於理論上能否建造安全 AI 的問題，而不是關於一小群被選定的人能否為我們保管好它。至少我尊重 Yudkowsky，他一貫地說「如果有人建造了它，所有人都要死」。
貓已經從袋子裡跑出來了。我們正在建造它。要麼如果有人建造了它，所有人都要死；要麼它足夠安全，讓每個人都能擁有。這是關於世界的一個事實。我不接受一個中間地帶，讓少數被選中的人擁有它——這不像核武器，這是智慧本身。核武器只能摧毀；智慧是世界上最偉大的創造力。如果一小群人壟斷了它，你將處於永久的無產階級地位，就像動物一樣。
從更實際的角度來看，即使 API 保持開放，你也無法在它們之上建立穩定的業務。這些公司已經籌集了如此多的資金，它們不會滿足於你業務中的一份額，它們將會覬覦你的全部業務。這就是為什麼我堅持認為應用層將毫無價值，真正有價值的是已部署的智慧本身。它們樂意以負投資回報率的活動提供 API 給你，但一旦有任何正投資回報率的東西出現，它們就會調整協議，直到對你來說只剩下邊際利潤。就像一個農民耕種他的土地一樣。為什麼他們要分享？
開源 AI 並非反對安全。它是反對封建主義。每當有 AI 從業人員喋喋不休地說開源很危險，但他可以建造 AI 並使其安全（但前提是你必須透過他的 API 購買），他就是在稱你為農奴。
一個充斥著我經常重複的、研究不足的觀點的家