人工智慧正在改變民主公民的意義。以下是我們如何運用它來造福社會。
每隔幾個世紀，資訊傳播方式的改變就會重塑社會的治理模式。印刷術普及了地方語言的讀寫能力，催生了宗教改革，並最終促成了代議制政府。電報使得管理美國這樣廣袤的國家成為可能，加速了現代官僚國家的成長。廣播媒體創造了共享的全國性觀眾，進而推動了群眾民主。
我們現在正處於又一次重大轉變的初期階段。AI 的普及速度比許多人意識到的要快，它正成為我們形成觀念和參與民主自治的主要介面。如果放任不管，這種轉變可能會進一步加劇美國本已脆弱的制度。但它也有助於解決長期的問題，例如公民參與度低落和兩極分化日益嚴重。接下來會發生什麼，取決於我們是否知情，但已經在做出的設計選擇。
從我們稱之為「認識論層次」開始——我們如何認識事物。人們越來越依賴 AI 來了解什麼是真實的、正在發生什麼、以及應該信任誰。搜尋引擎已經在很大程度上由 AI 介導。下一代 AI 助手將會權威性地綜合資訊、建構框架並呈現。對於越來越多的人來說，詢問 AI 將成為形成對候選人、政策或公眾人物看法的預設方式。因此，誰控制了這些模型所說的話，誰就對人們的信念擁有越來越大的影響力。
科技始終塑造著公民與資訊互動的方式。但一個新的問題即將出現，那就是個人 AI 代理。它們不僅能改變人們接收資訊的方式，還能改變他們對資訊的反應。這些系統將代表使用者進行研究、起草溝通、強調議題並進行遊說。它們將影響諸如如何對某項投票提案進行投票、哪些組織值得支持、或如何回應政府通知等決策。從實質意義上講，它們將開始調節個人與治理他們的機構之間的關係。
我們已經從社群媒體上看到了當演算法為了參與度而非理解力進行優化時會發生什麼。平台不必有明確的政治議程，就能產生兩極分化和激進化。一個了解你的偏好和焦慮——並被塑造成讓你保持參與——的代理，會帶來同樣的風險。而且，在這種情況下，風險可能更難被察覺，因為代理將自己呈現為你的倡導者。它代表你說話，為你採取行動，並可能正是透過這種親密感贏得信任。
現在將視角拉到集體層面。AI 代理和人類可能很快就會參與到相同的論壇中，屆時可能無法分辨彼此。即使每個 AI 代理都設計良好且符合其使用者的利益，數百萬個代理的互動也可能產生沒有任何個人想要或選擇的結果。例如，研究表明，沒有個人偏見的代理仍然可以在規模上產生集體偏見。撇開代理之間的互動不談，還有它們為使用者所做的事情。一個擁有針對其現有觀點進行調整的個人化代理的公共領域，總體而言，根本不是一個公共領域。它是一系列私人世界，每個世界內部都連貫一致，但在集體上卻不利於民主所需的共享審議。
總而言之，這三種轉變——我們認識事物的方式、我們採取行動的方式，以及我們參與集體治理的方式——構成了公民身份本質的根本性變化。在不久的將來，人們將透過 AI 過濾器形成政治觀點，透過 AI 代理行使公民權利，並參與本身就受到數百萬個此類代理互動影響的機構和公開討論。
當今的民主制度尚未為此做好準備。我們的制度是為一個權力以可見方式行使、資訊傳播速度足以受到質疑、現實感覺更為共享（儘管不完美）的世界而設計的。在生成式 AI 出現之前，這一切都已經在瓦解。然而，這不一定是一個衰落的故事。避免這種結果需要我們為更美好的事物而設計。
在資訊層面上，AI 公司必須加強現有的努力，以確保模型的輸出是真實的。它們還應該探索一些有希望的早期發現，即 AI 模型可以幫助減少兩極分化。最近對 X 平台上 AI 生成的事實檢查進行的一項實地評估發現，具有各種政治觀點的人認為 AI 撰寫的筆記比人類撰寫的更有幫助。該論文尚未經過同行評審，但這是一個潛在的革命性發現：AI 輔助的事實檢查可能能夠實現手工人類努力所未能達到的跨黨派可信度。更深入地理解和透明化模型如何做出這些斷言以及在此過程中如何優先考慮來源，有助於建立進一步的公眾信任。
在代理層面上，我們需要評估 AI 代理是否忠實代表其使用者的途徑。代理絕不能有自己的議程，也不能歪曲使用者的觀點——這在使用者可能沒有明確表達任何偏好的領域是一項艱鉅的技術要求。但忠實代表也不能成為動機性推理的附屬品。一個拒絕呈現令人不快的資訊、保護使用者免於質疑先前的信念或未能適應心態改變的代理，並不是在為該人謀取最佳利益。
最後，在機構層面上，政策制定者應加快利用 AI 的潛力，使治理更具響應性和合法性。一些州和地方政府已經在使用 AI 介導的平台來大規模進行民主審議，這建立在 AI 仲介者可以幫助公民找到共同點的研究基礎之上。隨著代理越來越普遍地參與公共意見徵詢過程——而且已經有證據表明機器人正在扭曲這些過程——從一開始就必須為人類及其代理代理人建立身份驗證機制。
我們需要的是新一代的民主基礎設施，無論是技術上還是制度上，為我們實際身處的世界而建。在這個具有重大影響力的領域，未能為民主成果而設計，就意味著為其他事物而設計。而不受問責的權力的歷史，並沒有留下多少樂觀的空間來預期那「其他事物」通常是什麼。