「史詩級憤怒行動」(Operation Epic Fury)清楚表明,人工智慧(AI)已成為美軍作戰的核心。在中部司令部透過 Palantir 的 Maven Smart System 平台使用 Claude,在行動首日就生成並優先處理了約 1,000 個目標,其作戰節奏比 2003 年伊拉克入侵行動的初期階段快了一倍以上。根據五角大廈的數據,在 38 天內,該行動總計發動了 13,000 次打擊。Project Maven 表示,該計畫已將目標鎖定速度進一步提升至單日 5,000 個。問題在於,國防部能否在部署前評估其所部署的系統。過去 18 個月來,五角大廈已清除長期以來阻礙 AI 採用的非法律性障礙。這項工作是必要的,但仍不足夠。建立國防部促進廣泛採用的能力,是「移除障礙委員會」所啟動的加速行動的後半部分。更艱鉅的任務是建立廣泛推廣的政策、人力和基礎設施能力,因為競爭的關鍵在於軍隊整合能力的廣泛程度,而非首先部署最先進的系統。沒有這種能力,採用將僅限於少數早期採用辦公室。
五角大廈於一月發布的《AI 加速策略》(AI Acceleration Strategy)推動了許多進展。該策略設立了一個「移除障礙委員會」,有權在測試、採購和招聘方面豁免非法律性要求。它還要求在推出後 30 天內採用尖端模型,將未來如何執行的指導推遲。該策略建立在 2025 年 4 月的行政命令(簡化採購)和 2025 年 7 月的《AI 行動計畫》之上,為快速採用 AI 創造了政治授權。國會隨後通過了 2026 財年的《國防授權法案》。
國防部設定了七月為其優先 AI 部署或「領先項目」(pace-setting projects)的初步演示截止日期。這些演示旨在證明該策略已釋放了真實的能力,而不僅僅是加速部署國防部尚無法大規模採用的系統。它們應該提供證據,證明技術已透過快速迭代週期在近乎作戰的環境中得到適應,並透過小型團隊之間的競爭來超越國防部的集中規劃。然而,國防部錯過了初步演示的截止日期。也未就這些項目的狀態發表任何聲明。
與五角大廈多年來部署的狹窄 AI 系統(一次只做一項任務且保持固定)不同,生成式模型可以執行多項任務且不斷變化。這使得傳統的「立即測試,永久部署」方法過時,並需要新的培訓投資,以幫助操作員避免過度信任或低估 AI 系統。
尖端模型的可靠性因任務而異。在 HalluLens 基準測試中,尖端模型在約 27% 至 85% 的簡短事實查詢中會產生幻覺,並有高達 94% 的時間會編造不存在的實體。五角大廈的政策尚未跟上這種現實。
自動化偏見(automation bias)在人機協同研究中已有充分記錄。由於這些模型會生成帶有精確座標和優先目標的清晰建議,因此存在引發操作員過度順從的風險。將評估壓縮到 30 天的部署授權,會削弱其自身的目的:一個失敗模式未被任何人繪製出來的模型,操作員將學會不信任它,而操作員不信任的系統將在戰場上被繞過。
五月一日,在與 Anthropic 公司因其試圖限制 Claude 模型使用而產生的爭議後,國防部將授權給五角大廈最高機密網路使用的尖端 AI 供應商名單從一家擴展到八家。五角大廈並未透過增加評估基礎設施、人力或法律能力來匹配這一擴展。
國家安全總統備忘錄 11(National Security Presidential Memorandum 11),於六月五日簽署,強化了這種「立即部署,稍後建置必要系統」的方法。該備忘錄呼籲消除「快速部署的不必要障礙」。確保 AI 技術「可靠、穩健、可控且可導向」,並遵守適用法律、政策和指導的「保證」(Assurance)是該備忘錄的四大支柱之一。然而,它並未確定哪個辦公室將負責這項職能,也沒有為這項工作提供資金。相反,它將對確保已部署 AI 安全的重視,與在僅一個月內強制部署新模型的強烈操作壓力結合起來。藉此,它實際上聲稱同時推進了部署和保證,有效地將操作部署遠遠置於獨立測試之前。
有兩個辦公室理論上可以承擔保證角色,但兩者都無法做到。數位與人工智慧長辦公室(Chief Digital and AI Office)的負責任 AI 辦公室(Responsible AI Office),這個旨在開發國防部 AI 治理和保證流程的單位,實際上已經承擔了這項工作,但缺乏能力:它在春季開始建立更清晰的測試和評估流程,卻因延遲離職買斷計畫和返辦公室規定而流失了員工。另一種選擇是,作戰測試與評估局長(Director of Operational Test and Evaluation)的處境也沒好到哪裡去:國防部長彼得·海塞(Pete Hegseth)在 2025 年 5 月將其員工數量削減了約一半,並只給予七天時間來實施變更。該辦公室此後從其監督清單中刪除了近 100 個項目,而未調整其方法來評估每幾個月更新一次的通用模型。獨立評估生成式 AI 的能力在五角大廈內不存在,無法滿足任務需求。
該備忘錄還規定終止與對國防部技術使用施加限制的公司簽訂的合約。這項條款是對 Anthropic 公司堅持保留限制其模型用於完全自主戰爭或國內監控的權利的回應,導致國防部將其視為供應鏈風險。這種立場暗含著一種信念,即國防部或更廣泛的美國政府都無法被信任來確保技術得到適當和合法的利用。雖然將這些核心政策決策委託給私營部門在多個方面都存在問題,但國防部自身保證流程的不足,削弱了政府聲稱其應成為這些工具適當使用唯一仲裁者的立場。更令人警惕的是,國防部現在已將選擇對限制較少的供應商寫入政策,而此時它卻缺乏獨立驗證任何供應商交付內容的能力。
該備忘錄忽略了一個基本問題:操作員會採用他們信任的 AI,並拒絕他們不信任的 AI,這增加了軍方在完全理解或確保系統安全之前就授權其投入使用的風險。該備忘錄確實指示創建標準化測試方法、計算路線圖和外部技術專家儲備隊。這些是正確的優先事項。如果資金充足,它們將加速採用:指揮官只會部署通過他們信任的測試的系統。但除非國會為這些指令提供資金,否則它們仍將是紙上談兵。
尖端模型每幾個月更新一次,而國防部在人力、計算能力或方法論上都沒有做好準備來應對這種頻率。新的「移除障礙委員會」無法透過豁免來解決能力問題。
存在五個主要的短缺:人力、計算能力、數據、評估和操作授權。國防部缺乏足夠數量的機器學習工程師,無法獲得能夠撰寫基於消耗的合約而非固定價格合約的採購官員,也無法獲得經過培訓以捕捉流暢模型虛構內容的操作員。即便如此,僅僅獲得安全許可就需要近一年的時間,工程師才能開始有意義的工作。在計算能力方面,五角大廈擁有的設施有六到十八個月的認證時間表,對於機密或複雜系統則需要兩年以上。在數據方面,國防部缺乏統一的架構,無法讓尖端模型存取所需的營運數據。五角大廈經常無法使用其自身營運產生的數據來訓練 AI,因為供應商合約並未確保這些權利:國防部資助了系統,卻沒有擁有它。
在評估方面,國防部依賴供應商提供的基準測試,採用「租用基準」(rent-a-bench)模式,而不是擁有獨立監督所需的方法論和基礎設施。最近公開的測試數據說明了風險:截至 2024 年,Maven 在識別物體方面的準確率為 60%,而同期第 18 空降軍的評估顯示人類分析師的準確率為 84%。國防部沒有獨立的基準測試基礎設施來衡量這一差距是否縮小,儘管情報官員已公開承諾使用 Maven 每小時做出「1,000 個高品質(目標鎖定)決策」的目標。由於使用兩年前、早於「史詩級憤怒行動」的數據,沒有人能說出人類分析師的差距是否已經縮小、擴大或逆轉。
在操作授權方面,認證系統足夠安全以進入政府網路的過程,存在延遲。單一授權可能需要十二到十八個月,這種節奏是為很少變動的系統設計的,而不是為每幾週更新一次的模型設計的。國防部已開始回應:國會已將持續授權和跨部門互惠納入法律。但互惠在很大程度上仍是紙上談兵:2026 年年中對國防部決策者的調查發現,沒有人報告授權時間少於六個月,「互惠」通常仍意味著對舊審查的全面重新進行。
如果五角大廈唯一使用的工具是豁免流程,所有這五個差距都會惡化。最明顯的風險是軍方無法驗證 AI 解決方案是否如供應商聲稱的那樣工作,或者是否安全地工作。
國防部已經見識過部署自動化系統的後果,而這些系統的失敗模式卻無人能預測。2003 年,愛國者飛彈防禦連在伊拉克擊落了一架英國旋風戰鬥機和一架海軍 F/A-18,造成三名機組人員死亡。這些飛彈連在很大程度上以自動模式運行,使操作員無條件信任系統輸出。國防科學委員會的一個工作組後來發現,當系統的假設不再成立時,操作員無法質疑其感測器告訴他們什麼。愛國者是一個成熟、狹窄的系統,經過數十年的測試,而國防部目前以 30 天時間表部署的大型語言模型既不成熟也不狹窄。
當機器生成建議的速度快於人類的適當評估時,審查就會被匆忙進行,直到它不再起作用。根據 +972 Magazine 的調查,以色列的 Lavender 系統將加薩約 37,000 人標記為疑似戰鬥人員,官員估計錯誤率為 10%,而人類審查員花費約 20 秒決定殺死誰。以色列軍方對部分報導提出異議,但這種模式在自動化偏見研究中很常見:當一個系統以流暢的信心產生數千項建議時,迴路中的人類就變成了一種形式。 (有些人可能會想到美國襲擊一所伊朗學校,造成 156 人死亡,其中包括 120 名兒童,但迄今為止的證據並非指向單獨的 AI 錯誤,而是美國目標鎖定系統的更廣泛失敗,包括過時的情報和斷開的數據庫。)
國防部的目標鎖定準則詳細說明了這種審查應有的樣子。聯合出版物 3-60(Joint Publication 3-60)要求對目標進行正面識別,評估附帶損害與軍事必要性,並在指揮官批准打擊前進行法律審查。這只有在分析師有時間認真進行時才有效。
將這些先例與「史詩級憤怒行動」期間的 Maven 節奏進行對比:沒有人,無論是在計畫內還是計畫外,都無法確定該系統在該行動期間的目標識別中有多少是正確的。當失敗發生時,它將表現為對一個模型自信地錯誤識別的建築物進行打擊,由一個受過快速行動訓練的操作員批准,在一場沒有評估記錄的戰爭中,無法確定該錯誤是否可以預見。國防部無法說明這種情況發生的頻率,而這種沉默,而不是兩年前的準確率數字,才是其能力差距最明顯的形式。
國會已賦予國防部權力來開始彌補這些差距。2026 財年的《國防授權法案》授權了三項條款:一個測試沙盒、一個跨職能評估團隊,以及一個負責分配 AI 監督明確責任的治理小組委員會。儘管所有三項的截止日期都已過,但沒有一項已建立。
這一切都不會減緩領先項目的進度。它將防止這些項目在延遲已久的演示最終到來時停滯不前。國防部長應指定人力、計算能力、數據和評估基礎設施為一個官方的領先項目,由負責任 AI 辦公室的一名負責人領導。雖然將此任務分配給一個已經精疲力盡的辦公室會帶來即時的能力挑戰,但正式的領先項目地位提供了推動高級領導層關注和解鎖專門資源所需的確切機制。領先項目地位很重要,因為它提供了與「移除障礙委員會」的標準化訪問權限,以及由研發副部長每月親自審查的指標。為了移動資源而非紙張,該項目需要兩樣東西:其領導者的預算權限,以及計算產出的指標而非里程碑:已聘用並獲得安全許可的工程師、每個級別交付的計算能力,以及在新合約中執行的數據權利條款。給予該項目兩年的時間來展示成果。如果到那時仍未將資金重新分配給這些招聘、計算能力和數據權利,部長應向國會尋求專門的資金。建立能力應得到與移除障礙同等的管理關注。
五角大廈必須同時轉向臨時安全認證,作為快速更新 AI 模型預設選項。預設臨時認證可能看起來是又一次為了速度犧牲安全,但網路安全檢查和能力評估回答的問題根本不同。認證,即操作授權流程,決定該計畫是否會對託管它的網路引入網路安全風險。現有評估審查的是靜態配置,因此對於每幾個月更新一次的模型,在文件處理完成之前,所審查的版本通常已經過時。國防部自身的「軟體快速通道」(Software Fast Track)計畫已經將持續監控視為比單點快照更穩健的快速變動軟體安全態勢。能力評估則詢問一個不同的問題:系統是否如供應商聲稱的那樣工作,在什麼條件下,以及有哪些失敗模式?這才是國防部目前無法配備人力的關卡,也是無法放鬆的關卡。加快認證速度只有在能力評估仍然是一個獨立的檢查,並且無論認證速度多快都仍然適用時才有意義。一個通過安全審查但從未證明過對分析師基準準確性的模型,不應該出現在目標鎖定單位。
國會應資助軍用 AI 的獨立測試基礎設施,該基礎設施設在大學和聯邦資助的研究中心。國會已經朝此方向努力:2026 財年《國防授權法案》第 224 條指示國防部在大學設立國家安全與國防 AI 研究院。然而,一個以人力發展和基礎研究為重點的授權,並非一個常設的能力評估職能。
五角大廈目前依賴供應商評估其自身產品,這是一種利益衝突,使政府依賴於它既不擁有也不控制的工具。難以回答的問題是,當方法論幾乎不存在時,這些中心將評估什麼,以及以什麼標準進行評估。美國國家標準與技術研究院(NIST)的 AI 標準與創新中心(Center for AI Standards and Innovation)僅發布了關於語言模型自動基準測試的草稿指南。未來,獨立測試應在機密營運數據上,針對人類分析師基準測試目標識別準確率,正如第 18 空降軍在 2024 年所做的那樣。它們應運行幻覺和提示注入的對抗性測試,並在每次新模型版本更新時重複運行,並進行人機協同實驗,以操作節奏衡量操作員的審查。麻省理工學院林肯實驗室(MIT Lincoln Laboratory)和卡內基梅隆大學軟體工程研究所(Carnegie Mellon University’s Software Engineering Institute)等機構已經開展機密評估工作,並可以作為基礎,而國會已授權的沙盒和評估團隊是自然的載體。國會應為它們提供資金,將部分工作設在五角大廈之外,並要求報告結果。
「史詩級憤怒行動」表明,五角大廈可以利用 AI 大規模進行戰爭。如果領先項目能夠實現,將表明它們能否在更多系統中維持這種勢頭。然而,這兩項努力都不能保證軍方能夠在戰鬥中驗證系統的準確性,或在關鍵故障發生前及時發現。解決這一差距對於推動廣泛採用並確保其持久性至關重要。