暴力行為的門檻正在降低。人工智慧（AI）結合機器人技術、能源生產和感測器的顯著進步，將日益使更小的團體能夠更有效地、從遠距離進行目標式暴力。隨著時間推移，這種轉變將對所有形式的力量投射產生巨大影響：國家間戰爭、各種低強度衝突，以及國家如何維持內部秩序。然而，或許可以理解的是，國家安全領域對AI革命的討論，普遍聚焦於更具顛覆性的情境：超級智慧、國家間衝突，以及釋放新型生物武器的前景。這些都是值得深入探討的關鍵問題。但賦予小型團體超級能力，也將以關鍵但較不戲劇化的方式轉變安全動態。非國家行為者將利用AI支援的工具，使用日益自主的武器進行相對簡單的攻擊。在此情境下，AI賦能武器的關鍵將在於其能夠區分目標並精確打擊的能力，而非造成災難性規模的破壞。

AI對非國家暴力影響相對未被充分檢視，存在結構性原因。國家安全思想家常傾向於分析國家間競爭，中國的崛起是21世紀初地緣政治的核心特徵，而AI實驗室則出於公共和自身利益的考量，常強調這類擔憂。這些公司了解AI將如何塑造21世紀，因此認識到真正關鍵的問題。它們也將政府視為客戶和監管者——並理解在監管和政府投資出現的時刻，強調AI對核心國家安全利益的重要性所具有的政治效用。

最後，許多這類次生存風險將由免費提供的開源和開放權重模型驅動，這些模型通常比大型基礎模型實驗室生產的模型受到的審查更少。儘管不如最先進的模型強大，但這些工具非常有效、免費提供、可在相對簡單的設備上本地運行，並且不受基礎模型實驗室日益複雜的安全措施的約束。這些優勢對暴力非國家行為者來說將是極具吸引力的，正如它們對矽谷及其他地方的各種創新者一樣。創新的工具可以用於善，也可以用於惡。

作為Cinder的聯合創始人兼首席策略長，Cinder為領先的AI公司提供安全基礎設施，我在與AI安全和濫用相關的政策和實踐方面擁有商業利益。但這也是我個人非常關心的問題。賦予恐怖分子能力並非AI最深層的風險，但它應該得到比目前更多的關注。

民主國家首都的決策者和矽谷的領導者仍應優先考慮西方技術優勢，不應限制核心AI的進展，但應制定策略來應對AI被濫用於促進目標式暴力的問題。這意味著要建立明確的法律準則，並準備加固潛在目標。這也意味著公司應監測模型在次生存模式下的濫用情況，而託管開源和開放權重模型的公司應盡可能地考慮這些風險。這些都不是理想的步驟。像許多其他技術一樣，AI本質上是雙重用途的——我們無法在不接受風險的情況下釋放這項技術的創造性效益。因此，政策任務不是消除風險，而是減輕風險。

多樣化的行為者……與AI類型

新的訓練技術和巨大的計算能力投資，催生了更具能力的尖端模型，這就是Anthropic執行長Dario Amodei所稱的「強大AI」。儘管DeepSeek、Qwen和其他小型模型備受炒作，但推進基礎能力需要資本密集型的計算系統，而這些系統通常由國家或大型公司控制。在技術能力的最前沿競爭，不僅預示著經濟進步，也預示著軍事相關的進步——例如，從海量多模態感測器陣列中提取意義、加密和解密信號，以及協調自主無人機群的能力。這些能力是領先AI實驗室提出聯盟以確保民主國家控制「強大AI」的關鍵原因。

然而，AI革命不僅限於政府機構。社會各個層級的公司和個人都能獲得以前無法想像的能力。Amodei正確且有說服力地讚揚了這項進展對醫學、藝術和經濟發展的預期貢獻。他提出了這些新工具將為社會提供的價值的有力論證。但正如網際網路開啟了個人、商業和藝術人類互動的新時代一樣，它也為蓋達組織、新納粹和自稱的伊斯蘭國提供了新的工具，並被他們造成了可怕的後果。AI革命也將如此。

能夠從遠距離精確地將武器送達目標，是在戰鬥中一個強大的戰術優勢。技術先進的軍隊長期以來一直在尋求這一點。恐怖分子則試圖通過伏擊和強調鼓勵自我犧牲以發動暴力的文化來彌補其技術限制。想想聖戰者培養自殺式炸彈客文化，以及右翼激進分子及其支持者對「聖人」的頌揚。AI賦能的武器，即使是最初能力有限的武器，也將為恐怖分子提供新的戰術選擇和不同的戰略敘事。

能夠自主選擇目標、發射和行動的武器面臨三個根本性的實際問題：目標選擇不精確；使用複雜、昂貴的系統卻未能完成任務的機會成本；以及摧毀錯誤目標所帶來的政治、社會和道德後果。總的來說，這些擔憂可能會比對恐怖組織的約束更大。

恐怖組織和其他非國家武裝分子，儘管（並非總是）願意接受不精確的武器，並且在利用廉價彈藥方面持續創新，這很大程度上是因為他們願意攻擊軟目標。這種較低的標準鼓勵採用和實驗，並需要更便宜的彈藥。這些因素對於部署此類武器至關重要。以今天的技術，很容易想像本地運行開源視覺模型的無人機，能夠自主區分車輛的大小，或根據膚色、服裝或性別區分人。這類區分可能不足以驅動大多數軍事目標選擇，但對於各種意識形態的恐怖組織來說已經足夠。

事實上，願意接受不精確的目標選擇，也將使非國家行為者能夠使用不那麼複雜的開放模型。這些工具不太可能達到最先進的「強大」模型的精確度和能力，但它們足以應付廣泛的離散任務，並且可以在相對簡單的自主或半自主系統上本地運行。這類工具可能還無法系統性地改變俄烏戰線的軍事化態勢，因為那裡隱蔽和反制措施很普遍。但在平民環境中，由願意進行不精確目標攻擊的行為者部署，可能會造成災難性的後果。

開放模型對恐怖分子的另一個好處是，它們更容易針對惡意目的進行微調。儘管一些開源開發者採取措施限制其模型的濫用傾向，但有些則不然。任何開放模型都可能以不可預測的方式被微調。同時，擁有封閉模型的領先模型實驗室已採取措施限制其技術的濫用，並監控操縱其系統的企圖。這些措施不可避免地不夠完善，但值得注意的是，它們在其生命週期的早期就採取了措施來減輕這些危險，這比它們在社交媒體公司（儘管最終也做到了，但為時已晚）的同行要早。為客戶託管和部署開放模型的提供商也採取措施來保護它們託管的模型，但這些努力還不夠成熟。

國家在開發和部署核心AI能力方面擁有無數優勢。但恐怖分子也有自己的關鍵優勢——較低的目標標準、明顯願意從平庸的戰術成果中提取戰略利益的意願，以及從根本上改變對他們不利的機率的迫切需求。關於AI地緣政治影響的討論，很大程度上（可以理解地）集中在開發這項技術所需的資源上。但足以滿足許多恐怖分子需求的AI正變得無處不在——因此問題變成了採用和部署這些工具所需的因素。恐怖分子在前一方面顯然較弱，但在操作基本版本的這些工具方面，他們在後一方面卻更強。

鑑於我們預期AI將產生影響全球的巨大影響，人們很容易想像AI能夠實現規模非凡的戰術行為：新型生物攻擊、突破性的網路入侵，或規模驚人的協調無人機活動。這些都是真實的問題。但從AI對編碼的影響中學到的教訓不僅僅是它可以將強大的團隊轉變為非凡的團隊，或將優秀的工程師變為偉大的工程師——它還可以將平庸的工程師變為優秀的工程師，將非工程師變為建造者。提高能力門檻與打破天花板一樣具有革命性。

AI正在降低非技術人員和相對不投入的人員進行技術創作的門檻。這將產生各種混亂的結果，其中許多是美好的。但它也將降低進行遠距離目標式暴力行為的必要門檻。

恐怖主義的基礎是相對目標式暴力能夠產生巨大的政治和社會影響。AI有可能通過賦予小型團體進行大規模暴力行為的能力，徹底改變這種邏輯。我們應該為這種可能性做好準備——AI公司正確地強調了這些擔憂。但它也將為這些小型團體提供新的方式來執行目標式攻擊，以服務於那些更古老的戰略概念。這在概念上不那麼戲劇化，但這並不意味著風險很小。

恐怖分子有時被認為是早期採用者。2007年，我和我在西點軍校反恐中心的同事們曾疑惑，為何蓋達組織及其盟友沒有積極採用新的社交媒體工具。儘管社交革命即將來臨，他們仍優先考慮更傳統的網路論壇。三年後，這種採用正在認真進行——如今，這個問題似乎顯得有些陳舊。根據我的經驗，恐怖組織很少像美國大學生或矽谷的創新者那樣具有前瞻性，但他們確實比國會議員和大型政府官僚機構更具前瞻性。AI革命並非首先在武裝分子中出現，但採用延遲並不能證明它不會顯現。

烏克蘭和黎凡特的衝突表明，自主力量投射仍有待完善。但我們正處於一個劇烈變革的邊緣。分佈式系統越來越自主，中國正在利用AI進行大規模國內監控，而代理系統有望擾亂經濟。戰爭、權力和力量將永遠是人類的事業，需要付出血汗淚，但沒有理由相信有組織的暴力將不受日益自動化的全球社會的普遍趨勢影響。

從政策角度來看，也許最重要的是，恐怖分子濫用AI的危險應該與其他更大的風險相平衡——在技術上落後於地緣政治競爭對手，賦予潛在獨裁者能力，釋放具有某種獨立代理能力並能接觸危險工具的模型，新型生物武器等。為此，這意味著要建立一套關於模型如何使用的限制，而不是如何訓練它們；防禦簡單的自主武器；並普遍為次生存威脅做好準備。這也意味著要更積極地承認和解決有關開源和開放權重模型的安全問題。

首先，重要的是要澄清濫用AI進行暴力行為是犯罪。國會應更新法規，表明故意微調模型以促進暴力行為構成預謀，代表指定的外國恐怖組織這樣做構成實質性支持，並且利用模型根據受保護特徵進行目標攻擊可能導致聯邦仇恨犯罪指控和加重判刑。判例法不足以應對。國會應作為明確的規定採取行動。這類法律不應被設計或解釋為增加開發基礎模型的個人或公司的責任。其目的是懲罰那些故意微調用於惡意目的的模型的人。

儘管如此，這類攻擊是不可避免的。事實上，我認為它們很可能在未來幾年內發生。儘管AI對於自主或半自主攻擊至關重要，但交付機制很可能是各種形式的無人機。世界各地的軍隊和恐怖分子都在關注烏克蘭及其他地區的衝突，以吸取關於無人機使用和干擾的教訓，其中包括各種相對低技術的風險緩解措施。潛在目標應採取其中一些技術，包括電子對抗和微妙的物理屏障。

我在此關注的是AI對暴力的貢獻，而不是宣傳和虛假信息的生產。但這類使用正在發生，並且不可避免地會增長。從實際角度來看，模型公司，就像社交媒體公司一樣，將是防止這類濫用的關鍵第一道防線——並且應該制定和執行使用規則來限制它。但開放模型幾乎肯定能夠滿足恐怖分子的宣傳和虛假信息需求，無論大型實驗室採取何種行動。儘管這可能令人沮喪，但對此類過程的最佳政策回應可能是限制在社交平台上的分發，並在創作者積極協助恐怖組織時對其進行起訴。

事實上，開放模型將為恐怖分子提供巨大的機會。限制這些模型的濫用將極其困難。但研究人員應將開放模型納入跨領域的模型風險評估中。託管開放模型的公司應建立類似於領先基礎模型實驗室公司所擁有的複雜分析團隊，以追踪濫用模式。這不會阻止恐怖分子在自己的基礎設施上運行模型，但可能會限制迭代並增加危險行為者的摩擦。

恐怖分子並不總是尋求最大化暴力——事實上，許多團體努力謹慎地進行校準。這應該影響我們如何評估恐怖分子濫用AI的威脅。AI實驗室正確地關注AI開發新型生物威脅的風險，並且他們應該繼續努力限制大規模毀滅性人類病原體的危險。但生物武器不僅需要化學物質——它們需要製造、儲存和分發。一些新型製劑可能會減輕與這些步驟相關的挑戰。但也可以合理地推測，恐怖分子可能會利用生物學來擾亂社會而不是摧毀它，並在這樣做的同時減輕對自身的風險。如果是這樣，基礎模型實驗室應考慮針對牲畜或農作物的生物製劑的危險。這類製劑一旦生產出來，就更容易處理和分發，並且可能嚴重擾亂農業經濟。

本文大部分內容寫於2024年末，靈感來自Amodei的文章《Loving Grace的機器》。儘管Amodei的文章對AI的願景大多是樂觀的，但他描述了他預計到的「強大AI」帶來的廣泛、文明風險，以及維持美國在AI發展領先地位的地緣政治重要性。當時，我擔心他低估了更平凡的AI驅動威脅的風險，特別是關於恐怖主義和潛在的威權主義傾向。Amodei最近發表了一篇續作，題為《技術的青春期》，仍然關注大規模暴力行為，但清晰地認識到AI提供了一套新的跨領域工具——並特別提到了恐怖主義和潛在的威權主義。

儘管如此，Amodei的方法反映了矽谷與外界之間更廣泛的脫節。許多技術專家將新技術本身視為對國家安全和地緣政治產生戰略影響的主要工具。影響和顛覆的機制直接與新可能產生的巨大暴力範圍聯繫在一起。這種世界觀有其真實性——只需看看核武器所帶來的戰略轉變就知道了。

同時，許多其他人——無論是親社會還是反社會的——都在思考如何通過在戰略點施加目標式壓力來創造戲劇性的社會和政治變革。對他們來說，新技術不必從根本上改變世界可應用的暴力規模——它只需要解鎖新的戰術機會，這些機會可以用於最終產生戰略變革的行動。這種世界觀也有其真實性——只需看看AK-47所帶來的巨大轉變就知道了。

現代AI同時製造了這兩種危險。它既提高了幾乎難以想像的暴力規模的可能性，又創造了應用狹窄目標式暴力的新的戰術機會。同樣重要的是，它將提高從複雜軍隊到孤狼等各種行為者的能力。所有這些動態都需要我們關注。AI越來越具有自主性，這既體現在代理人能夠做出過去僅限於人類的判斷，也體現在這些新能力將重新洗牌所有人類的選擇，包括那些與政治暴力相關的選擇。但同樣真實的是，人類也保持著追求政治和意識形態目標的自主權，有時會使用暴力。在AI賦能的戰術世界中，這些策略將繼續存在。