這是我家人的照片。我愛他們勝過一切。

圖片有力量，我希望如此。我們平常試圖保持低調，但在這種情況下，我分享這張照片，希望能勸阻下一個人向我們家投擲汽油彈，無論他們對我個人有何看法。

第一個投擲者是昨晚凌晨 3:45 左右。幸運的是，汽油彈彈開了，沒有人受傷。

文字也有力量。幾天前有一篇關於我的煽動性文章。昨天有人告訴我，他們認為這篇文章出現的時機正值人們對 AI 感到極度焦慮，這讓我變得更加危險。我當時不以為意。

現在我半夜醒來，感到憤怒，並認為我低估了文字和敘事的影響力。現在似乎是時候來談談幾件事了。

* 努力實現所有人的繁榮，賦予所有人力量，並推進科學和技術，對我來說是道德義務。

* AI 將是人類有史以來見過的最強大的人類能力和潛力擴展工具。對這個工具的需求將是無限的，人們將用它來做令人難以置信的事情。世界值得擁有大量的 AI，我們必須想辦法實現它。

* 這一切不會一帆風順。對 AI 的恐懼和焦慮是合理的；我們正在經歷一場長久以來，甚至可能是史上最大的社會變革。我們必須確保安全，這不僅僅是關於對齊模型——我們迫切需要一個全社會的應對機制，以抵禦新的威脅。這包括制定新政策，以幫助度過艱難的經濟轉型，最終走向一個更好的未來。

* AI 必須民主化；權力不能過度集中。未來的控制權屬於所有人及其機構。AI 必須賦予個人力量，我們需要共同決定我們的未來和新的規則。我認為由少數 AI 實驗室來做影響我們未來形態的最重要決定是不對的。

* 適應性至關重要。我們都在快速學習新事物；我們的一些信念是對的，一些是錯的，有時隨著技術的發展和社會的演變，我們需要迅速改變想法。沒有人能完全理解超級智能的影響，但它們將是巨大的。

回顧我在 OpenAI 的第一個十年的工作，我可以指出許多我引以為傲的事情，以及一些錯誤。

我想到我們即將與 Elon 進行的訴訟，並回想起我多麼堅持不願同意他對 OpenAI 的單方面控制。我為此感到自豪，也為我們當時所走的狹窄道路感到自豪，這使得 OpenAI 得以繼續存在，並取得了後續的所有成就。

我不為我迴避衝突的態度感到自豪，這給我自己和 OpenAI 帶來了巨大的痛苦。我不為我在與前董事會的衝突中處理不當而感到自豪，這給公司造成了巨大的混亂。在 OpenAI 瘋狂的軌跡中，我犯了許多其他錯誤；我是一個有缺陷的人，身處一個極其複雜的局面中心，每年都努力做得更好一點，始終為使命而奮鬥。我們一開始就知道 AI 的風險有多大，而且我關心的人之間個人分歧會被極大地放大。但親身經歷這些痛苦的衝突，甚至經常需要仲裁它們，其代價是巨大的。我對我傷害過的人感到抱歉，並希望我能學得更快。

我也非常清楚，OpenAI 現在是一個主要平台，而不是一個小型新創公司，我們現在需要以更可預測的方式運營。過去幾年極其緊張、混亂且壓力巨大。

但最重要的是，我為我們正在實現我們的使命感到非常自豪，這在我們開始時似乎是極不可能的。儘管困難重重，我們找到了建造非常強大的 AI 的方法，找到了籌集足夠的資金來建造交付它的基礎設施的方法，找到了建造一家產品公司和企業的方法，找到了大規模交付相對安全可靠的服務的方法，等等。許多公司聲稱要改變世界；我們確實做到了。

第三，關於這個行業的一些想法。

我從過去幾年個人得到的體會，以及對我們領域公司之間為何有如此多莎士比亞式戲劇的看法，歸結為一點：「一旦你看到了 AGI，你就無法視而不見。」它具有真正的「權力戒指」動態，會讓人們做出瘋狂的事情。我不是說 AGI 本身就是戒指，而是指「成為控制 AGI 的那個人」的總體性哲學。

我能想到的唯一解決方案是廣泛地與人們分享技術，讓沒有人擁有戒指。這兩種明顯的方法是個人賦權和確保民主體系保持控制。

民主進程必須比公司更強大，這一點很重要。法律和規範將會改變，但我們必須在民主進程中工作，即使它會很混亂且比我們希望的慢。我們希望成為一個聲音和利益相關者，但不是擁有所有權力。

我們行業的許多批評來自於對這項技術極高風險的真誠擔憂。這是非常合理的，我們歡迎善意的批評和辯論。我同情反技術情緒，顯然技術並不總是對每個人都有益。但總的來說，我相信技術進步可以讓未來變得無比美好，對你的家人和我自己的家人都是如此。

在我們進行辯論的同時，我們應該緩和言辭和策略，盡量減少爆炸事件，無論是字面上的還是比喻上的，在更少的家庭中發生。