全球現有九個國家擁有核武器。歷經數十年艱辛建立的軍備控制協議已崩潰。地緣政治競爭正加劇擁核國家間的敵對。北韓持續擴張其軍武庫與投送系統。中國大陸預計將從現有的約六百枚核彈頭，在二〇三五年增至約一千五百枚。同時，俄羅斯對《新削減戰略武器條約》的終止負有主要責任，並正開發一系列旨在規避飛彈防禦系統的奇特新型核投送系統。這包括核動力及核武裝巡弋飛彈與水下無人載具、高超音速滑翔載具，以及具核武裝的反衛星武器。儘管近期大部分焦點合理地集中在伊朗的核計畫與自主常規武器系統的前景上，但在人工智慧時代，核武發射決策本身自動化的潛力正籠罩著這場對話。一種極令人擔憂的可能性是，像俄羅斯這樣的國家可能會自動化核武器的使用。乍看之下，這聽起來像是好萊塢電影裡才會出現的情節，例如《奇愛博士》中的「末日機器」或《魔鬼終結者》中的「天網」。但這並非科幻小說，且半自動化核武發射系統已有歷史先例。

冷戰期間，莫斯科實際上部署了一個稱為「死手」（Dead Hand）或「周邊」（Perimeter）的系統，該系統會監測蘇聯領土是否遭受核攻擊，若與蘇聯高層的通訊連結中斷，便會自動將核武發射權限委派給操作該系統的較低級官員。死手系統的目的是確保即使蘇聯領導層被殺，蘇聯仍能對美國的先發制人攻擊進行報復，發動自身的核反擊。換言之，這是一個根本上用於防禦的系統。同樣地，Adam Lowther 和 Curtis McGiffin 在 War on the Rocks 上主張，美國需要自己的死手系統，才能有效嚇阻針對華盛頓的核攻擊。

然而，自動化核武系統也可能被用來透過強制或威懾來追求事實上的進攻性和修正主義目標。如果俄羅斯入侵像愛沙尼亞或波蘭這樣的國家，並威脅若北約介入就使用核武器，該怎麼辦？這種威脅的目標可能是為了阻止北約援助一個遭受不公正攻擊的國家，或迫使北約成員國放棄其《第五條》承諾。通常情況下，由於相互保證毀滅的動態和核武不使用的規範，這類威脅缺乏可信度。然而，如果能透過電腦自動化來實施，那麼這種威脅可能會變得更可信。

我們最近對英國國會議員和公眾進行的一項調查實驗表明，核武國家透過自動化核武發射來追求強制性目標的風險是值得認真對待的。我們的研究呈現了一個俄羅斯入侵愛沙尼亞，並威脅北約國家（如英國）若援助塔林將發動核攻擊的場景。令人警惕的是，當莫斯科的核威脅透過自動化執行時，它們更具可信度，並使受訪者更傾向於退讓。儘管極其危險，但各國可能會被誘惑去建立自動化核武發射系統，以更有效地脅迫對手。

強制手段涉及利用對其他國家的威脅來達成政治目標，而無需實際訴諸代價高昂的武力使用。正如 Robert Pape 所說，「核武器幾乎總能造成比任何受害者所能承受的更大的痛苦」，威脅進行核懲罰顯然是一種有效的強制策略。但通常情況下，有兩個原因導致其無效。

第一個限制是當兩個擁核國家之間存在相互保證毀滅時。為了使威脅具有可信度，目標國必須相信，如果其對手的紅線被跨越，就有可能遭受懲罰。問題在於，如果目標國擁有核武器和可靠的二次打擊能力，它就可以發動自身的毀滅性核反擊。從理性角度來看，執行核威脅在這種情況下將是不合邏輯的，因此缺乏可信度。

第二個限制是核禁忌或不使用的規範，儘管其存在程度不一。鑑於使用核武器的污名——特別是當有其他良好替代方案時——核威脅可能缺乏可信度，因為各國會預期執行威脅的政治、經濟和社會成本將過高。

除非整合到其程式設計中，否則電腦不會在意執行核威脅是否不合邏輯，因為這可能導致核報復或其他重大成本。透過開發和啟用自動化核武系統，領導人可以更可信地威脅使用核武器，因為將發射權限委派給電腦，可以讓領導人更字面意義上地「綁住自己的手」。正如臭名昭著的虛構人物奇愛博士所說，「由於自動化且不可撤銷的決策過程排除了人為干預，末日機器是可怕的……而且完全可信且令人信服。」

當然，電腦系統可能會發生故障和失效，這意味著自動化核指揮和控制將存在重大風險。冷戰期間曾發生幾次近乎災難的事件，早期預警系統錯誤地顯示已發動核攻擊，如果沒有人類偵測到錯誤，可能會導致錯誤的核報復。現代電腦系統也無法倖免於錯誤。例如，波音公司的 737 MAX 機動特性增強系統（MCAS）對 2018 年和 2019 年幾起致命的商業航班墜機事件負有責任，而自動化交易系統則導致了 2010 年的「閃電崩盤」，在短短幾分鐘內抹去了數千億美元的市場價值。

電腦系統也容易受到駭客攻擊。惡意的國家或非國家行為者可能會利用這種漏洞，試圖在敵人之間發動核戰爭，或侵蝕一個國家的二次打擊能力。如果各國透過複雜且不透明的機器學習程式來自動化核武發射流程，而不是像死手系統那樣的硬編碼和基於規則的系統，那麼這可能會進一步增加人類無法理解其決策過程的風險。結合自動化偏見——人類過度信任電腦的傾向——這可能導致災難。

鑑於這些缺點，大多數領導人不太可能採取自動化核武使用的極端步驟。然而，歷史上曾有美國在台海危機和巴基斯坦在卡吉爾戰爭中試圖進行核訛詐的例子。出於幾個原因，自動化核武發射可能被視為一種理性策略。

首先，一個擔心被更強大的核國家「斬首」的國家，可能會自動化核指揮和控制，以加快其報復能力，並在遭受攻擊時保護自己。這就是 Lowther 和 McGiffin 認為美國需要自己的死手系統的原因。其次，在人工智慧時代，常規戰爭速度的加快可能會讓各國擔心快速的常規戰敗，從而更有可能想要自動化核指揮和控制，以預防潛在的「斬首」攻擊。第三，如果一個國家在常規戰爭中處於劣勢或面臨戰場條件惡化，它可能會轉向核強制手段，並採取自動化核武使用的危險步驟來實現其戰略目標。

為了測試自動化核威脅在影響政治領導人和公眾觀點方面的有效性，我們調查了超過 100 名現任英國國會議員和超過 1000 名英國公民。我們向受訪者呈現了一個設定在 2030 年的假設情境：俄羅斯入侵愛沙尼亞，並威脅若北約介入將使用至少一枚核武器。

這個情境令人不安地具有可能性。俄羅斯曾對烏克蘭和北約發出核威脅，美國情報機構曾估計，如果其在烏克蘭南部的防線崩潰，俄羅斯使用核武器的可能性高達 50%。根據《紐約時報》的報導，「一次（拜登政府的）模擬……涉及莫斯科要求西方停止對烏克蘭的所有軍事援助：不再提供坦克、飛彈或彈藥。」這與我們在實驗中呈現給受訪者的情境非常相似。

接著，我們隨機變換了俄羅斯的核威脅是透過一個自動化核武發射系統執行（該系統會在俄羅斯感測器和預警系統偵測到北約介入時自動攻擊），還是透過正常的人類控制方式執行。對於所有受訪者，我們詢問他們認為俄羅斯的威脅是否可信，以及他們是否願意遵守俄羅斯的紅線。

結果令人警醒，並顯示了 AI 時代如何增加核風險——自動化使俄羅斯的威脅更具可信度和有效性。當威脅透過自動化執行時，英國公眾相信俄羅斯會在紅線被侵犯時發動核武器的可能性，比未自動化時高出 13 個百分點以上。當俄羅斯發出自動化核威脅時，英國國會議員支持退讓以保護愛沙尼亞的可能性也高出九個百分點。令人驚訝的是，即使英國本身擁有核武器，且愛沙尼亞是北約成員國，受《第五條》保障保護，自動化核強制手段仍能帶來好處。

雖然我們在情境中向受訪者說明了自動化系統的存在，但結果引發了一個問題：國家如何讓對手相信它們擁有自動化核武發射能力，以及虛張聲勢的可能性。鑑於上述風險，以及政治領導人通常不願放棄對關鍵政策決策的個人控制，各國政府可能會被認為不太可能將大規模毀滅性武器的手段委託給電腦。驗證自動化核武系統的存在也將極具挑戰性，因為各國極不可能分享這類程式的原始碼，以免敵人發現弱點。如果核自動化能帶來強制性優勢，那麼各國可能會為了在不冒風險的情況下獲取好處而虛張聲勢，這進一步加劇了讓核自動化聲稱可信的障礙。

然而，鑑於過去幾年——甚至幾個月——前沿 AI 的進步，一個國家能夠自動化核武發射的想法，從技術角度來看很容易顯得可信。如果對脅迫國而言，賭注被認為足夠高，例如它們在戰場上失利，而領導人需要「賭一把求翻身」，那麼它們也可能被認為願意嘗試核自動化。對於那些已知不信任其軍隊的專制政權來說，可信度也可能更高。領導人公開聲明自動化系統存在並已啟用，也會將他們的聲譽置於風險之中，這可能會讓他們的聲稱顯得可信。隨著時間的推移，如果領導人虛張聲勢並被抓到撒謊，那麼未來關於核自動化的聲明很可能會受到更大的懷疑。反之，今天的真實自動化威脅可能會增強未來類似威脅的可信度。最後，各國可能會從人力來源或電子攔截中收集情報，以幫助判斷關於自動化的聲明是否準確。

歸根結底，關於核自動化的聲稱不一定需要 100% 確信才能有效。我們的調查結果表明，如果各國認為對手採取了降低核武器人類控制權的冒險步驟存在合理的非零機率，那麼這可能會讓它們足夠擔憂，從而觸發更大的退讓考慮。

我們的研究結果還有幾點額外的說明。首先，我們發現的態度轉變（9-13 個百分點）雖然有意義但相對溫和。它們表明核自動化可以在一定程度上推動改變，但也暗示它遠非強制手段的萬靈丹。英國國會議員和公眾的大部分人，在面對自動化威脅時，其觀點並未改變。

其次，結果存在一些不一致之處。例如，儘管英國國會議員在俄羅斯發出自動化核威脅時更傾向於退讓，但他們平均而言並不認為自動化威脅比非自動化威脅更可信。這表明讓自動化威脅可信的挑戰（如上所述）可能是真實存在的。即使決策者對核升級風險的最佳猜測對於非自動化和自動化核威脅大致相同，但由於這項技術相對新穎，以及無法像與人類一樣與電腦進行談判和推理，他們可能對後者的估計感到不確定和猶豫。對核升級風險的更大不確定性，可能促使一些國會議員支持退讓，以避免災難性後果。

鑑於自動化核武發射系統所能提供的強制性籌碼，各國應為對手可能考慮採取這一危險步驟的可能性做好準備。為了首先阻止這些系統的開發和使用，各國可以公開宣佈，如果它們收集到情報顯示其他國家正在創建這類系統，將會施加經濟制裁等成本。

對於擁核國家來說，加強其二次打擊能力將是避免陷入「自動化威脅陷阱」的最可靠方法。開發自動化系統對那些擔心「斬首」的國家尤其具有誘惑力，就像蘇聯建造死手系統時一樣。因此，核武現代化以加強二次打擊能力，至少在防禦目的上，可以降低各國追求自動化的動機。

雖然在 AI 時代進行軍備控制將極其困難，因為 AI 是一種通用技術，但一個可能的合作領域是禁止自動化核武發射的多邊協議。儘管這種協議的遵守程度可能極難甚至不可能驗證，但正式的公開承諾將增加不遵守的成本。雖然華盛頓和北京已非正式同意不自動化核決策，但與更多擁核國家簽訂具有法律約束力的協議將提供更強有力的保障。要求簽署國將此承諾編入其國內法，將進一步加強對違約的約束。推動這類協議可能是川普政府的一項勝利。

儘管如此，像俄羅斯這樣的修正主義國家仍可能試圖利用核自動化的說辭來吞併前蘇聯集團成員國。北約國家應在戰略和戰役層級進行兵棋推演，制定應對自動化核威脅的劇本。最佳回應也將取決於情報和結構性因素所決定的威脅可信度，以及對被針對領土的重視程度。

即使自動化核武系統的強制性優勢使其對某些國家具有吸引力，但將末日設為自動駕駛是北約國家自身應避免的道路。防止核武使用的賭注實在太大了，無法接受自動化核武發射系統帶來的故障、駭客攻擊、自動化偏見和升級的風險。

人們對將自動化和人工智慧整合到軍事領域存在許多擔憂。AI 整合到軍事系統是不可避免的，尤其是在精確打擊時代，各國可能會投資數百萬架空中、地面和海上無人機，若沒有 AI 和自主系統將難以有效管理。將更高的自主性整合到無人機中——並附帶適當的保障措施——可以降低這些系統對電子戰的敏感性，同時避免使用有線系統的缺點。當然，常規武裝無人機的破壞力也遠小於核武器，這使得自動化無人機的風險遠小於自動化核武發射系統。正如 Michael Depp 和 Paul Scharre 在本刊物上所寫，自動化的一些應用可以改善穩定性，而另一些則可能危險且破壞穩定。

在核武器方面，我們的研究表明，不幸的是，自動化可能帶來強制性好處，這意味著危險是真實存在的，擔憂是合理的。但區分不同類型軍事系統的風險水平很重要。將末日設為自動駕駛，與其他 AI 驅動的武器系統相比，將帶來巨大且獨特的風險。