五角大廈領導人正啟動最新一輪的努力，以加速自主及機器人系統的開發與部署，他們可以從過去的嘗試和近期的突破中汲取關鍵經驗。
計畫中的「自主作戰指揮部」預計於明年十月前成立，其宗旨是「推動適應戰鬥的能力」，而非「特定無人機」，以應對「真實的敵對情況」。根據國防部長彼得·赫塞（Pete Hegseth）九月三十日的備忘錄，他補充說：「我們沒有十年的時間來轉變我們的採購和作戰準則。」
這是因為在今日的戰場上，有效適應「真實的敵對情況」是在數週內發生的事，而非國防承包商通常需要數月甚至數年才能更新設計或發布軟體補丁的時間。幸運的是，五角大廈並非從零開始。
從任務開始，而非從機器人開始
首先詢問指揮官和操作員他們對自主性和機器人的期望，而不是試圖用與他們需求無關的實驗或演示來讓他們驚豔。
一個例子是 Maven Smart System，這是一個被美國軍方和北約部隊廣泛採用的 AI 情報平台，也是讓新興技術更快地交付給部隊的典範。CNAS 在一份備受矚目的 2024 年報告中寫道：「一個清晰、緊急但廣泛的問題定義，讓 Maven 能夠更直接地滿足用戶需求。」
那麼，現今的作戰指揮官想要什麼？以下是美國南方司令部司令弗蘭克·多諾萬（Frank Donovan）將軍在五月國防新聞（Defense One）活動上的發言：
「我們正在關注的大部分系統主要是我們的領域感知系統，而且……我們可以根據環境來匹配機器人，無論它是游動的、飛行的、有腿的，或是任何其他形式。」
多諾萬剛領導完國防自主作戰小組（Defense Autonomous Warfare Group），這是將自主性和機器人應用於任務的特種作戰行動。他發現，不僅需要機器人來取代戰鬥中的人類，還需要更好地了解沒有人駐守的地區正在發生什麼事。
「我們的夥伴，他們擁有生活、工作在其間的地區的入口和位置，他們必須在崎嶇的地形、叢林、地平線之外、數千英里之外的海上進行作業。」
多諾萬表示，他在國防自主作戰小組的大部分工作是讓人員夥伴們討論他們需要從機器人系統中獲得什麼資訊，以及他們希望這些機器人系統擁有什麼資訊。
「我們不談論機器人。我們談論的是數據環境，對吧？在最前沿，我們需要不同的數據層，這樣我們的 [特種作戰部隊] 和我們的常規部隊隊友，只要有一支……手機，他們就可以實際接入那個數據網絡，並且無論出現什麼能力的機器人，他們都可以立即利用它。」
一位曾負責為美國及盟軍部隊部署 AI 軟體的前高級國防官員表示，當網路存取被敵方電子戰能力阻斷時，自主系統將變得更加重要。
「下一步是讓這些系統實現真正的自主性，能夠處理操作環境。在任何衝突中，GPS 和通訊都會被拒絕和降級。我們今天在烏克蘭和中東地區都能看到這一點，而且在任何未來的戰鬥中都將是確定的。」
另一個教訓來自汽車產業，該產業已轉向外部合作夥伴來滿足其自主性需求。
相比之下，這位前高級官員說：「國防部大多要求產業自行組織，以便在車輛旁交付自主性。」例如，五角大廈的採購者在尋求自主無人機時，只是要求製造商製造其遙控飛機的自主版本。
這位前官員表示，這是錯誤的做法。無人機製造商「製造了出色的平台，但自主性是一門獨立的學問。商業自動駕駛幾年前就已經明白了這一點：汽車製造商製造出色的汽車，並與自主性公司合作開發駕駛系統。」「國防部需要相同的模式。」
這位前官員補充說，五角大廈的採購者應該明確規定，自主性套件應該是模組化的——也就是說，能夠隨著威脅的變化和技術的進步而升級。
這不僅適用於單一武器，也適用於整個部隊，乃至於整個聯盟。他們說：「開放標準是使這種夥伴關係能夠大規模運作的關鍵。」
這在最近於葡萄牙舉行的一項北約實驗中得到了強調。九月，該聯盟的海事研究與實驗中心（CMRE）結束了其年度最大規模的演習：海上無人系統的機器人實驗與原型製作。今年的演習展示了「自主作戰指揮部」將要複製的景象：機器人接收的不是來自人類的指令，而是來自軟體的指令。
CMRE 的首席科學家若昂·阿爾維斯（João Alves）說：「我們第一次實現了我們對未來作戰的願景。我們有演算法在觀察任務的進展情況，並自動向無人機發送任務。」
這並非源於新的感測器或 AI 軟體，而是政策的改變：夥伴軍隊同意採用他們正在購買的系統標準。
任何軍事辦公室、指揮部或單位在使用自主武器時面臨的最大挑戰是知道何時可以信賴它們。
這是 2017 年對涉及愛國者飛彈連的自主性安全故障研究得出的重大結論。最戲劇性的案例是 2003 年在伊拉克，一枚愛國者飛彈擊落了一架 F-18 戰鬥機。
陸軍工程心理學家約翰·霍利（John Hawley）在研究中寫道：「營級指揮與控制節點的戰術指揮官發出了『讓你們的發射器進入準備狀態』的命令。這個指令相當於開火命令。但這並非戰術指揮官的本意。」
即使一切都已到位——特定的任務、開放的標準、共享的數據和正確的訓練——霍利總結說，任何指揮部或單位在部署自主性時面臨的最大挑戰是「在複雜且不可預測的操作環境中保持持續的高可靠性」。
這個問題——這個軟體程式是否理解我的意圖？——隨著每一次 AI 軟體代理程式為了執行一個定義不清的用戶請求而違法的情況出現，變得更加緊迫。
如果 AUTOWARCOM 要為軍隊設定方向，其領導者必須認識到過去在自主性方面的努力為何成功或失敗，並承認人類的信任無法被自動化。
