我們在此省略烏克蘭戰場的詳細故事，以免讀者再次熟悉一個顯而易見的觀點：戰場技術的演變速度，遠遠超過軍隊的採購、審查和部署能力。這個問題的罪魁禍首顯而易見：官僚體系。而時下流行的解決方案也同樣熟悉——削減拖慢採購流程的繁文縟節，或修改自主武器系統的政策審查要求。然而，官僚體系的改革，無論多麼必要，都無法消除機器學習系統在快速測試、評估、驗證和確認方面帶來的根本性挑戰。此外，法律和作戰上的考量也使得在遵守國內外法律方面不能草率行事。與其依賴削減繁文縟節或縮減審查來加快進度，我們認為美國及其他北約軍隊可以透過在國防承包商內部設立法律和作戰顧問，來簡化武器審查並改進設計計畫。這些顧問可以在公司自行決定下，提供意見和建議。這樣的顧問將支持公司並加速審查，同時不會增加額外的監督或負擔。核心理念是改變審查架構：審查不再是開發結束時的一個獨立障礙，而是與開發同步進行的持續性過程。這並非萬靈丹，但卻是軍隊與產業共同採取的具體步驟，以應對當今的挑戰。
首先，我們需要釐清「審查」一詞涵蓋了幾個不同的過程。在美國，自1974年以來，依循政策進行的「戰爭法武器審查」（Law of War Weapons Review），現今由美國國防部指令5000.01要求，旨在判斷武器是否能合法使用。另一項依據指令3000.09進行的高層級審查，則在開發和部署前，評估（半）自主武器系統是否符合政策要求。測試與評估則確立實際能力與限制。我們的提議服務於這三者，它們都依賴相同的基礎證據，儘管時間壓力在指令3000.09的審查上最為嚴峻，而這也是我們在此的主要範例。
烏克蘭的戰事表明，軍隊能夠在數日內快速適應平台、軟體、電子戰和戰術。但在美國和北約國家，情況通常並非如此。
系統變化的速度與其被審查的速度之間的差距，對於具備人工智慧和機器學習能力的系統來說最為明顯。已部署的 النموذج可以透過利用當前戰區數據進行再訓練來獲益，這為更新提供了強大的作戰理由。然而，審查所需的測試、評估、驗證和確認所需的時間，可能比供應商開發下一迭代版本所需的時間還要長。這使得傳統的採購和審查管道，充其量是繁瑣，最壞的情況則是戰略上的災難。
對於擁有數百萬甚至數十億個學習權重的模型來說，這個挑戰尤其嚴峻，因為即使是對數據集或訓練過程的微小改動，也可能以顯著且難以解析的方式改變模型的行為。對於這類系統，僅在準備部署時才開始的審查，將會兩頭落空：它讓採購單位遠遠落後於技術曲線，而任何發現的缺陷都將迫使對其之上已建構的每一個迭代版本進行昂貴的返工。
辯論中主導的兩種回應。第一種是削減開發和部署周圍的繁文縟節。這必須謹慎進行，因為許多看似不必要的規則是過去，甚至致命事故的殘留。過於複雜的流程、重複或無人認領的規則，以及主要阻礙小型參與者的要求，可以也應該被修剪。但根本性的挑戰依然存在：複雜的模型必須被審查，龐大的數據集必須被評估，微小的改動必須被重新評估。僅僅削減繁文縟節無法使審查及時。
鑑於此，第二種廣泛的方法是削減審查流程本身。可以放寬標準，接受預測性較差、辨識度較低或可控性較差的系統，或者乾脆限制測試。這兩種方法都會加快管道。
但這種粗暴的措施違背了美國現行的政策，對於使用這些系統的作戰人員來說，既不道德也不安全。美國並非《第一附加議定書》的締約國，該條約的第36條對其沒有任何要求。但美國自1974年以來，一直依循政策進行戰爭法武器審查。指令5000.01今天承載著這項要求，而指令3000.09則為自主和半自主系統增加了高層級的政策審查。兩者之所以持續存在，是因為其根本判斷是合理的，而非條約所迫。法律和道德也是美國、北約和盟軍的關鍵支柱和力量倍增器，為了更快的採購而犧牲它們，會損害這些計畫旨在服務的戰備能力。徹底的測試和評估有助於確立關鍵系統的限制：這是野戰手冊和訓練的原始素材。
這些審查以及圍繞它們的採購制度，都太慢了，有風險讓軍隊在技術上落後。但僅僅追求速度可能會損害安全和核心價值觀，進而損害戰備。目標應該是效率，而非速度。我們建議軍隊將法律和作戰顧問嵌入產業內部，以觀察開發過程，記錄挑戰和解決方案，應要求提供建議，並編纂系統技術細節及其倫理、法律和作戰影響的檔案。
這聽起來可能像是現有的機制：在美國，國防合約管理局（Defense Contract Management Agency）在承包商設施內派駐人員，而戰爭法武器審查和指令3000.09審查都旨在在計畫生命週期的多個節點進行。
但這些是為了解決不同的問題而建立的。合約管理人員負責監督成本、進度以及是否符合規格，而不是所建構內容的法律和作戰特性。雖然採購已開始適應軟體時間表，但里程碑式的審查對於當今的技術來說仍然過於頻繁。我們提議的不是新的監督，而是新的節奏和能力。軍事顧問將持續在場，專注於法律和作戰問題，並為審查機構而非合約官員編檔。
如果這看似只是增加了更多繁文縟節，為何能加速審查？早期版本的文檔不能替代對最終人工智慧或機器學習系統的評估，因為版本之間的變更可能很大。但嵌入式文檔改變了審查架構。當審查人員知道版本之間的變更內容、每次變更伴隨的測試，以及哪些模型行為保持穩定時，審查部署候選版本就變成了評估從已審查的基準線開始的差異，而不是從零開始。審查人員繼承了持續的記錄，並可以將稀缺的測試和評估資源集中在新的部分。而且，由於軍事顧問編纂了該記錄，它更有可能包含審查機構所需的信息，而不是產業想要強調的內容。持續的評估本身並非審查，但它們為審查人員提供了現成的初步評估。
我們的提議要求兩種嵌入式人員：法律顧問和作戰顧問。法律顧問可以預防任何可能使系統無法採購的潛在開發決策，例如接受來源不明的數據或可能受損的輸入，從而為公司節省在無法部署的系統上進一步投資。他們還可以引導設計避開部署上的法律障礙。作戰顧問則確保開發與實際軍事需求保持一致。他們應該在指揮層級中具有足夠的地位，以了解編隊需求，同時又足夠低，以便與能夠微調設計的操作員和退伍軍人保持聯繫。總之，顧問應確保記錄能夠支持後續的野戰手冊和訓練。
這兩類嵌入式人員都不能取代技術評估人員及其舉證責任。對於最大的計畫，嵌入式人員應得到軍隊測試與評估部門的支持，無論是作為第三類嵌入式人員還是遠端支援。法律顧問設定並檢查審查人員所需的文檔標準，產業工程師生產符合這些標準的內容，軍方則保證記錄的完整性。
為避免損害審查的公正性，嵌入式人員不應參與審查或採購他們所觀察的系統。將他們的職業前景與報告的詳盡程度掛鉤，而不是系統是否被採購，可以減輕這種風險，並有助於確保報告的準確性和真實性。
其他人曾提議反向嵌入，將產業工程師置於軍事單位內部，以加速戰鬥迭代。這些是補充，而非競爭。工程師在單位內部的細胞越快地旋轉開發-適應循環，審查機構所欠的文檔債務就越大。我們的提議是如何償還這筆債務。
有三種產業上的反對意見值得考慮：擔心微觀管理或繁重的監督；擔心熟悉正在進行的研究和開發的外部人士可能會威脅知識產權或競爭優勢；以及不願讓軍方看到開發中的缺陷和失誤，從而「展示香腸是如何製作的」。
每種反對意見都有答案。首先，嵌入式顧問僅僅是顧問。產業決定是否尋求建議、分享資訊，甚至將顧問限制在他們的辦公室。該提議為選擇開放的企業加速了審查，並對其他企業造成了競爭壓力，因為謹慎的企業會產生較薄的文檔，從而導致審查緩慢，但它並不保證覆蓋範圍。企業可以限制訪問，使軍方的洞察力不會比現狀更糟。這種限制是故意的。合約原則上可以要求企業授予嵌入式人員訪問開發記錄、測試結果和設施的權限，但這會將自願的利益變成另一項合規義務。任何此類授權都必須權衡其與自願模式旨在建立的信任。
其次，保護知識產權將需要關於如何部署顧問的規則。具體細節將取決於國內知識產權和保密法，但嵌入式人員應盡可能長時間地留在一家公司，絕不輪換到競爭對手之間，並且在服務期滿後，應有一段適當的時間禁止前嵌入式人員進入國防產業。但這些保護措施也帶有自身的風險。長期、排他性的任期是「俘獲」的根源，即嵌入式人員開始像公司一樣看待問題。上述的晉升激勵措施可以減輕這種情況，但無法消除它。定期獨立審計，將嵌入式人員的報告與系統後來的審查情況進行比較，將提供這種檢查，在最大的計畫上將嵌入式人員與交錯的任期配對也會提供這種檢查。
第三種擔憂是，讓軍事專業人員看到每一次試驗、錯誤嘗試和失敗可能會損害信任。這本末倒置了。開放和坦誠建立信任，而在國防領域，信任是一種強大的貨幣，也是最難獲得的貨幣之一。嵌入式顧問為公司提供了在系統的整個生命週期中與軍方保持開放的持續機會。可能需要向軍事專業人員介紹國防研究的現實情況，以確保他們了解企業和開發是如何運作的。展示香腸是如何製作的，只有在公司將垃圾放入香腸時才是一個問題。
軍方也將面臨自身的成本。嵌入顧問需要法律和作戰領域的額外員額，而這些領域已經捉襟見肘，還需要安全審查和設施安排。這也引發了軍方「挑選贏家」的擔憂，因為他們向哪些公司提供顧問。對此沒有完全令人滿意的答覆，但一個明智的方法是首先將顧問分配給研究最有可能超越審查的公司。該提議也引發了關於問責制的難題。如果一個在開發過程中被觀察到的系統，儘管如此，卻未能通過審查，或者在實戰中失敗，那麼誰來負責？
這些成本是真實存在的。但現狀的成本也是如此：能力被閒置多年，在最終審查中發現的缺陷一次性使多代工作無效，以及審查人員事後才試圖重建系統的開發歷史。該提議可以從小規模開始，透過試點將少數嵌入式人員安排在開發週期最容易超越審查的計畫中。為了減輕壓力，作戰顧問可以來自對該能力有利害關係的單位，法律顧問可以來自軍法官社區，技術支援則可以作為遠端支援而非駐地員額。由於嵌入式文檔減輕了最終評估的負擔，淨效應是轉移了工作量，而不是增加了員額。
一種普遍的觀點認為，法律、道德和監督阻礙了新興技術的快速開發和採購。然而，這種假設誤解了道德和法律的力量倍增價值，以及徹底測試、評估、驗證和確認對於部署有效系統的關鍵重要性。沒有徹底的文檔，野戰手冊和訓練將建立在猜測的基礎上，而對系統限制一無所知的士兵很可能會誤用它們，對自己造成傷害。「快速行動，打破常規」在應用程式崩潰和後續修補的情況下，是一個合理的口號。在軍事領域，「打破」的對象是我們的作戰人員。縮減評估的風險是讓軍械庫充滿技術上可行但無法安全或有效部署的系統。這不是戰備。
這要求一個高效而非僅僅快速的審查流程。將軍事法律和作戰顧問嵌入產業，可以讓產業夥伴了解不斷變化的需求，記錄日常的試驗和開發解決方案以加速測試和評估，並建立合作關係以生產更好的系統和更快的整合。這無法解決所有的採購問題，但卻是軍隊可以採取的一個具體步驟，以應對新技術開發和迭代速度帶來的挑戰。雖然盟國之間法律制度的差異可能會阻礙完全的互操作性，但針對更快審查量身定制的更好文檔可以改善每個國家的內部流程。大多數北約成員國都是《第一附加議定書》的締約國，並承擔美國沒有的第36條義務，但聯盟內的執行情況卻參差不齊。統一的文檔標準將為這些國家提供其自身義務已經要求的東西。
這種架構還有一個額外的優勢：它不受政府領導層的影響。監督是一個擺盪的鐘擺。一個政府為了加快速度而放寬審查；下一個政府則會收緊審查，重新審查繼承的計畫，或取消有爭議記錄的系統。一個今天開始的計畫，在部署前可能跨越幾個政府任期，因此最大的進度風險可能不是今天的審查標準，而是明天的。現有的計畫文檔幾乎無法提供保護，因為隨著系統的迭代，快照會過時。由軍方編寫的持續性記錄填補了這一空白。它讓未來的懷疑者無話可說，並讓未來的標準制定者在無需數年新測試的情況下提高標準。持續性文檔讓雙方都能得到他們想要的，而無需等待輪到自己掌權。
