1月初，約90位政治、社群及思想領袖齊聚紐奧良一家萬豪酒店，參加一場關於人工智慧的秘密會議——其秘密程度之高，以至於與會者直到走進房間才知道其他人被邀請了。教會領袖和保守派學者與工會代表比鄰而坐。曾推動伯尼·桑德斯競選總統的進步派權勢人物，發現自己與MAGA（讓美國再次偉大）的發言人呼吸著同一片空氣。而邀請他們前來紐奧良的AI思想領袖，則希望他們之間不會互相攻擊。

週三，未來生命研究所（Future of Life Institute, FLI），這個在AI安全領域最具權威的聲音之一，公布了這次會議的成果：「以人為本 AI 宣言」（Pro-Human AI Declaration）。這是一份簡潔的文件，包含五項關於AI發展必須以人類為中心的指導原則，特別強調要避免權力集中在少數強者手中；維護兒童、家庭和社群的福祉；以及保留人類的自主權和自由。我個人認為，這份政治文件簽署者的廣泛程度是我前所未見的。

來自科技界以外的強大公民組織已簽署了該宣言：主要的勞工團體，如美國勞工聯合會-產業工會聯合會科技研究所（AFL-CIO Tech Institute）、美國教師聯合會（American Federation of Teachers）和編劇工會（Screen Writers Guild）；宗教組織，如G20宗教間論壇協會（G20 Interfaith Forum Association）和基督教領袖大會（Congress of Christian Leaders）；以及推動伯尼·桑德斯在2016年競選民主黨總統提名的進步民主黨人（Progressive Democrats of America）；還有保守派智庫家庭研究協會（Institute for Family Studies）和家長崛起（Parents RISE!）等倡導團體。

個人簽署者的範圍更為廣泛：民主黨總統候選人雷夫·納德（Ralph Nader）、美國教師聯合會主席蘭迪·韋因加滕（Randi Weingarten）、Signal基金會主席梅雷迪斯·惠特克（Meredith Whittaker）、The Blaze的格倫·貝克（Glenn Beck）、War Room的史蒂夫·班農（Steve Bannon）、維珍集團創辦人理查·布蘭森爵士（Sir Richard Branson）、前國家安全顧問蘇珊·賴斯（Susan Rice）、SAG-AFTRA（美國演員工會-美國電視和廣播藝人聯合會）成員，以及主要福音派組織的領導人。預計未來幾天將有更多人簽署。

會議遵循《查塔姆之屋規則》（Chatham House Rules），與會者名單保密。但願意向《The Verge》透露經驗的與會者表示，他們是由FLI聯合創辦人、麻省理工學院教授、並曾入選《時代》雜誌AI百大人物的馬克斯·泰格馬克（Max Tegmark）邀請的。韋因加滕，一位強大的教師工會倡導者，在電話採訪中告訴《The Verge》：「在過去幾個月裡，我們與他進行了大量溝通。」雖然她未能親自前往紐奧良，但她參與了文件的起草，並發現FLI的願景與AFT在學校使用AI的「常識性護欄」有顯著的相似之處。「我們在平行的軌道上走了很長一段時間，卻沒有意識到。」

喬·艾倫（Joe Allen），一個無黨派社會倡導組織「人類優先」（Humans First）的高級研究員，也是班農節目War Room的前記者，告訴《The Verge》，泰格馬克也邀請他參加了紐奧良的會議，以及先前在曼哈頓的一次概念驗證會議。儘管與會者的廣泛程度令人震驚，政治緊張氣氛也並未完全消失，但艾倫對於大家如此迅速地在相似議題上達成一致感到驚訝：不應讓自主致命武器完全由AI驅動。AI公司不應利用兒童的情感依戀來謀取利潤。AI不應被賦予法律人格。（宣言中支持度最低的立場仍獲得94%與會者的批准。）

「我認為，如果供水系統中有毒，或者毒品湧入學校——總之，任何類似的事情——大多數人會反對，這不是黨派問題。」他說。AI稍微棘手一些，因為人們對特定AI模型的普遍看法會沿著黨派界線劃分——Grok是「基於事實」的AI，Anthropic是「覺醒」的AI——但對艾倫來說，這種區別毫無意義。「像是，『基於事實』和『覺醒』現在到底意味著什麼？」

「如果我們不能把這件事做好，我們就沒有閒暇去爭論所有其他問題了。所以，讓我們把這件事做好。」

近十年前，FLI提出了一套更為樂觀的AI研究原則——確切地說是23項原則，是在2017年阿西洛馬（Asilomar）有益AI會議上制定的，該會議吸引了當時超過100位科技界的權威人士。阿西洛馬AI原則的簽署者和認可者包括AI領域的領導者，如山姆·奧特曼（Sam Altman）、伊隆·馬斯克（Elon Musk）和德米斯·哈薩比斯（Demis Hannabis）；權威人士如史蒂芬·霍金（Stephen Hawking）和雷·庫茲威爾（Ray Kurzweil），以及來自Google、Intel和Apple等主要公司的代表。

但這次，沒有邀請任何業界人士，更不用說奧特曼和馬斯克這樣級別的人物了。「這實際上是一個非常刻意的設計選擇，」FLI的未來計畫主任艾米莉亞·賈沃斯基（Emilia Javorsky）告訴《The Verge》。每當她參加關於AI對社會影響的會議和活動時，她都會注意到，由於企業的規模、影響力和資金能力，「企業利益自然而然地成為房間裡的主導觀點」。取而代之的是，受邀者來自公民社會組織，他們都因人工智慧而經歷了大規模的顛覆，並且都對大型科技公司對他們的擔憂置之不理感到厭倦。

FLI的另一位聯合創辦人、加州大學聖克魯茲分校的著名宇宙學教授安東尼·阿吉雷（Anthony Aguirre）強調，這份宣言並非他們試圖重做阿西洛馬原則，而是對一個黑暗新現實的嚴肅承認——在這個現實中，他們過去的同事現在是大型企業的負責人，試圖在競爭對手之前實現通用人工智能，並在解決安全問題之前滿足股東。引導AI發展的力量越來越集中在少數人手中，而川普政府積極的放鬆管制措施進一步賦予了他們權力。「除了全體人類的總體質量之外，有一個實體本來可以對他們能做的事情施加有意義的控制，那就是美國政府，」他告訴《The Verge》。「現在政府在支持他們，並希望他們不受約束，唯一真正的威脅就是其他公司。」

「如果政府不做，那麼人民就必須迫使政府去做。」

賈沃斯基說，在缺乏大型科技公司和公眾監督的情況下，這個團體如此迅速地圍繞同一問題凝聚並得出相同結論，是獨一無二的。在接下來的幾天裡，賈沃斯基不斷聽到同樣的說法：「如果我們不能把這件事做好，我們就沒有閒暇去爭論所有其他問題了。所以，讓我們把這件事做好。」

在韋因加滕看來，該宣言是她所謂的「關鍵要求聯盟」（key demanding coalition）——一個政治對手的戰略聯盟——的使命宣言，也是一種讓他們所有努力協調一致，對抗將企業置於社會之上的政府的方式。「真正重要的是，有其他人說，讓我們試圖建立一個更大的聯盟，來說明我們需要人類成為AI的核心，」她指出。單憑AFT或許能夠推動兒童安全問題，但他們對立法者施加的壓力有限。但如果他們與其他幾個工會、宗教組織以及一些對面的盟友聯手呢？現在那些立法者就會感到不安。「如果政府不做，那麼人民就必須迫使政府去做。而你從一份原則聲明開始。」

「如果我對整件事有一個聲明，那就是我在引起他們注意時對大家說的話：沒有人能夠策劃一個以人為本的運動。你唯一能做的就是啟發它，」艾倫說。「我確實認為像這樣的聲明應該啟發一個以人為本的運動。就像一個奠定基調的根本性文件……沒有多少社會工程、金錢、媒體或任何其他東西真的能做到這一點。」

然而，這具體看起來是什麼樣子，仍然不清楚——或者至少，不容易轉化為選舉。FLI正在開展一個名為「保護人性」（Protect What’s Human）的廣告活動，但作為一個501(c)3組織，他們在期中選舉期間不能認可或競選候選人或公投案。不過，他們在2月份進行了一項由Tavern Research進行的民意調查，測試了該宣言原則在選民中的受歡迎程度。儘管受訪者在投票對象和所屬政黨方面嚴格劃分為黨派界線，但他們絕大多數都以壓倒性優勢支持了宣言中的聲明。表現最差的原則——AI不得製造壟斷或將控制權集中在少數人手中——仍獲得69%受訪者的支持。表現最好的原則——人類需要掌控AI並防止其傷害兒童、家庭和社群——贏得了80%的支持。

在賈沃斯基看來，民意調查結果證實了會議的觀點。「一群公民社會行動者聚集在一起，認為某件事具有代表性，這是一回事。但你必須用真實的人來驗證這些。這實際上與他們產生了共鳴。」

週四我們交談時，Anthropic，這家公司最近曾暗示其AI可能獲得了意識，正與五角大廈就軍方是否能使用其AI進行自主致命武器攻擊而無人監督展開爭論。到了週五晚上，OpenAI為了爭取自己的五角大廈合約，將Anthropic推到了風口浪尖。在這次爭論解決幾天後，美國使用了Anthropic驅動的工具暗殺了伊朗的阿亞圖拉，並且出現了更多關於迫在眉睫的AI裁員的報導，以及五角大廈對大規模監控的要求規模變得更加明顯之際，進步民主黨人主席、會議與會者艾倫·明斯基（Alan Minsky）告訴《The Verge》，他預計無論是左派還是右派，都不會對該宣言產生任何政治反對意見。

「奧特曼和馬斯克，當然，他們對社區面臨的嚴重威脅採取了輕率的態度：一個越來越生活在線上的群體的心理惡化，持續的經濟財富分配不均的影響，當然還有對基本保護必須先於利潤這一想法的蔑視，」他說。「對人類生存構成威脅的風險，已經不再是他們會眨眼的事情了。隨著公眾意識到這是他們的態度，他們對普通人的福祉極度蔑視——是的，我們認為公眾會站在我們這邊。」