身而為人，本質上就是一個預測者。偶爾，還是一個相當不錯的預測者。試圖預見未來，無論是透過過往經驗的視角，還是因果邏輯，都幫助我們狩獵、避免被獵殺、種植作物、建立社會連結，總之，在一個並不優先考慮我們生存的世界裡得以生存。事實上，隨著預言的工具在數個世紀以來從茶葉渣變成了數據集，我們對於未來是可以被預知（因此可以被控制）的信念，只會越來越堅定。

如今，我們淹沒在浩瀚無垠、永無止境的預測洪流中，以至於大多數人幾乎無法察覺。就在我寫下這句話的同時，某個遠端伺服器上的演算法正忙著根據我已輸入的字詞來猜測我下一個要寫的字。如果你是在網路上閱讀這篇文章，另一組演算法很可能已經為你投放了你最有可能點擊的廣告。（對於那些堅持閱讀紙本報導的讀者，恭喜！你暫時逃離了演算法……但只是暫時。）

如果一個由一群圖利企業秘密植入你生活中的、無所不在、大多不可見的預測層讓你感到不安……嗯，我也是。

這一切究竟是如何發生的？人們渴望可靠的預測是可以理解的。儘管如此，沒有人會同意一個無所不在、演算法化的神諭來仲介他們生活的每一個面向。三本新書試圖釐清我們這個以未來為導向的世界——我們是如何走到這一步的，以及這種轉變意味著什麼。它們各自提出了應對這種新現實的處方，但它們都同意一件事：預測的本質是關於權力和控制。

在《預測的手段：人工智慧如何真正運作（以及誰受益）》一書中，牛津經濟學家 Maximilian Kasy 解釋了我們生活中大多數預測是如何基於對大型、標記數據集中的模式進行統計分析——這在人工智慧領域被稱為監督式學習。一旦在這些數據集上「訓練」完成，監督式學習的演算法就可以接收各種新資訊，然後給出對特定未來結果的最佳猜測。你會違反假釋規定嗎？你會還清抵押貸款嗎？如果你被錄取，你會被晉升嗎？你會在大學考試中表現良好嗎？你的家會在轟炸時被摧毀嗎？我們的生活越來越多地受到機器對這些問題的答案的塑造（是的，有時也會被縮短）。

如果一個由一群圖利企業秘密植入你生活中的、無所不在、大多不可見的預測層讓你感到不安……嗯，我也是。這種安排正在導致一個更殘酷、更平淡、更工具化的世界，一個生活可能性被封鎖、古老的偏見被根深蒂固、以及每個人的大腦似乎都在積極地變成一團漿糊的世界。根據 Kasy 的說法，這是一個完全可以預見的結果。

人工智慧的擁護者可能會將這些後果描述為「非預期的」，或者僅僅是最佳化和對齊問題。另一方面，Kasy 認為它們代表了系統按照預期運作。「如果一個演算法選擇你在社群媒體上看到什麼，它會煽動憤怒，從而最大化參與度和廣告點擊量，」他寫道，「這是因為煽動憤怒有利於廣告銷售的利潤。」同樣的情況也適用於一個「篩掉可能在工作場所外有家庭照護責任的求職者」的演算法，以及那些「篩掉可能罹患慢性健康問題或殘疾的人」的演算法。對公司利潤有利的事情，可能對你的求職前景或預期壽命不利。

Kasy 與其他批評者不同之處在於，他認為努力創建偏差更少、更公平的演算法無法解決這些問題。試圖重新平衡天平無法改變預測演算法依賴於過去數據的事實，而這些數據經常是種族主義、性別歧視，並在無數其他方面存在缺陷。而且，他說，追求利潤的動機將永遠壓倒消除傷害的嘗試。唯一的應對方法是透過廣泛的民主控制來掌握 Kasy 所謂的「預測的手段」：數據、計算基礎設施、技術專業知識和能源。

《預測的手段》中有超過一半的篇幅用於解釋這如何可能實現——透過「數據信託」（代表其貢獻者就如何處理和使用數據做出決定的集體公共機構）和企業稅收計劃等機制，這些計劃試圖考慮人工智慧造成的社會傷害。過程中有很多經濟學家的術語，關於「變革的推動者」如何幫助實現「價值對齊」以「最大化社會福祉」。我猜想這很合理，儘管懷疑論者可能會指出，Kasy 建立新的公共服務機構的嚴謹、系統性方法，恰逢公眾對機構的信任度降至歷史最低點。此外，還有大腦漿糊的問題。

值得肯定的是，Kasy 在這方面是個現實主義者。他不認為任何這些提議都容易實施。或者說，它們會在一夜之間，甚至在不久的將來發生。他的書最後提出的令人不安的問題是：我們有那麼多時間嗎？

閱讀 Kasy 奪回預測手段控制權的藍圖，引發了另一個緊迫的問題。我們究竟是如何走到機器中介預測幾乎無法逃避的地步的？「資本主義」，也許是馬克思簡潔的回答。這話說得沒錯，但這並不能解釋為什麼目前模擬氣候變遷的演算法，卻會因為某些原因同時決定你是否能獲得一顆新腎臟，或者我是否能獲得汽車貸款。

如果你問《我們如何將選擇權交給電腦：我們如何將選擇權交給電腦》一書的作者 Benjamin Recht，他可能會說，我們目前的困境與決策理論——或者經濟學家所稱的理性選擇理論——的概念和意識形態有很大關係。Recht，一位加州大學柏克萊分校電機工程與電腦科學系的博學教授，偏好使用「數學理性」這個詞來描述那種狹隘的、統計學的概念，這種概念激發了建造電腦的願望，影響了它們最終的工作方式，並決定了它們擅長解決的問題類型。

這種信仰體系可以追溯到啟蒙運動，但在 Recht 的敘述中，它真正確立於第二次世界大戰末期。戰爭能讓人的思緒專注於風險和快速決策，而對抗軸心國特別有用的數學模型，讓一群精選的科學家和統計學家相信，它們也可以作為設計第一台電腦的邏輯基礎。於是，「電腦作為一個理想的理性代理人」的想法誕生了，這是一台能夠透過量化不確定性和最大化效用來做出最佳決策的機器。

Recht 說，如今，數學理性（以其人性化的形式）的最佳代表就是民意調查專家 Nate Silver、哈佛心理學家 Steven Pinker，以及一群矽谷寡頭。這些人從根本上相信，如果我們更多人能採納他們的分析思維，學會權衡成本與效益、估計風險並進行最佳規劃，世界將會變得更美好。換句話說，這些人相信我們都應該像電腦一樣做決定。

我們如何證明（無法量化的）人類直覺、道德和判斷是解決世界上一些最重要和最棘手問題的更好方法？

他說，這有多種原因，是一個荒謬的想法。僅舉一例，並非人類在自動化之前就無法做出基於證據的決策。「清潔水源、抗生素和公共衛生的進步，使預期壽命從 1850 年代的不到 40 歲提高到 1950 年的 70 歲，」Recht 寫道。「從 19 世紀末到 20 世紀初，我們在物理學領域取得了改變世界的科學突破，包括熱力學、量子力學和相對論的新理論。」我們也設法在沒有正式理性系統的情況下建造了汽車和飛機，並以某種方式提出了現代民主等社會創新，而無需最佳決策理論。

那麼，我們如何說服 Pinker 和 Silver 這類人，我們生活中面臨的大多數決策實際上並非數學理性永不停歇的研磨機的原料？此外，我們如何證明（無法量化的）人類直覺、道德和判斷可能是解決世界上一些最重要和最棘手問題的更好方法？

可以從提醒理性主義者開始，任何預測，無論是計算的還是其他的，實際上只是一個願望——但一個具有強大自我實現傾向的願望。這個想法激勵了 Carissa Véliz 廣泛而精彩的論戰《預言：預測、權力和為未來而戰，從古代神諭到人工智慧》。

Véliz 是一位牛津大學的哲學家，她將預測視為「一個將現實彎曲到自身方向的磁鐵」。她寫道：「當磁鐵的力量足夠強大時，預測就成為它實現自身的起因。」

以 Gordon Moore 為例。雖然他在《預言》一書中沒有出現，但他確實相當顯著地出現在 Recht 對數學理性的歷史敘述中。身為科技巨頭 Intel 的聯合創始人，Moore 以其 1965 年的預測而聞名，即積體電路中電晶體的密度將每兩年翻一番。「摩爾定律」被證明是正確的，並且至今仍然如此，儘管由於矽原子的物理尺寸限制，它似乎正在失去動力。

關於摩爾定律，你可以告訴自己的一個故事是，Gordon 只是一個有遠見的人。他現在經典的 1965 年觀點文章「在積體電路中塞入更多元件」，為《Electronics》雜誌撰寫，只是推斷了計算趨勢對半導體產業未來的意義。

另一個故事——我猜 Véliz 會講的故事——是 Moore 將一個有根據的預測放入世界，而整個產業有共同的利益來讓它實現。正如 Recht 清楚指出的那樣，公司有明顯的財務動機來製造更快、更小的電腦晶片，並且至今仍然如此。雖然該產業可能已經花費了數十億美元來維持摩爾定律的生命，但它無疑從中獲利更多。摩爾定律是一個非常強大的磁鐵。

Véliz 說，預測不僅有自我實現的習慣。它們還可能分散我們對當下挑戰的注意力。當一位人工智慧的「巨頭」承諾通用人工智慧將是人類需要解決的最後一個問題時，它不僅塑造了我們對人工智慧在我們生活中角色的看法；它還將我們的注意力從當前非常真實且緊迫的問題上轉移開——而這些問題在許多情況下正是由人工智慧造成的。

從這個意義上說，圍繞預測的問題（誰在做預測？誰有權做預測？）也根本上是關於權力的。Véliz 說，那些最依賴預測的社會也最傾向於壓迫和威權主義，這並非偶然。她寫道，預測是「隱藏的規範性斷言——它們告訴我們如何行動」。它們是哲學家所說的「言語行為」。當我們相信一個預測並據此行動時，就如同服從命令一樣。

儘管科技公司希望我們相信別的，但技術並非宿命。人類創造了它，並選擇如何使用它——或者不使用它。也許面對生活中所有未經邀請的日常預測，我們最合適（也最人性化）的做法就是簡單地反抗它們。