我在協同作戰飛機（Collaborative Combat Aircraft, CCA）飛行測試期間遇到的最大挑戰，並非在座艙內高速排除故障。而是當我僅用一個按鍵，我的職責就從飛行員轉變為類似於訓犬師的角色——一個自主代理人的監督者。作為一名測試飛行員，我的本能是停止處理意外的機器行為，但這卻遇到了這樣一個系統，其中意外的行為可能是一件好事。管理自主性意味著要考慮一種新現象——機器行為既正確又出乎意料。

歷史上，機組人員處理意外的方式是假設發生了故障並進行修復，或遵守優先級限制。此外，當傳統飛機與飛行員失去聯繫時，它們會遵循一套固定的預先批准的行動。你事先知道機器會自行做什麼。但對於代理系統（agentic systems）而言，它們可能不會遵循預先編寫的腳本，操作員不能假設意外行為是錯誤或代碼故障。因此，空軍關於指揮代理系統的手冊應當支持一種心態轉變：操作員應該預期意外，並根據其優劣來判斷。

空軍的協同作戰飛機計畫是五角大廈更大規模部署自主協同平台承諾的一部分。所有變體都共享一個自主核心，使用政府參考架構（Government Reference Architecture）。這將軟體與車輛硬體分離，理論上允許代理人整合到不同平台、不同軍種或盟友擁有的、執行實質上相似任務的平台中。

現在就如何處理自主協同平台所做的決定，將成為整個投資組合以及建立自身計畫的美國盟友的預設模式。現有的飛機手冊有正常和緊急程序的檢查表，這些程序都基於系統描述，五角大廈也發布了關於適當使用自主武器系統的政策。但這些手冊和指令並未教導操作員如何監督代理人，除了批准或否決基於預設規則產生的行動。除非空軍找到一種方法來訓練其人員在操作代理飛機時擁抱意外，否則該軍種將面臨將一個數十億美元的自主計畫變成另一個無人機的風險。

缺失的一環是獨立於硬體的「代理人手冊」，其組織結構應圍繞監督代理人的任務，而不是圍繞任何單一的機身。它應該根據任務對代理人來說有多難，而不是對人類來說有多難來對風險進行分類，並用概率而不是直覺來量化風險。操作員可用的注意力——他或她的認知頻寬，基於任務或操作條件——應該是方程式的輸入之一。

一架自主僚機可能會透過分散對手的注意力來挽救一名戰鬥機飛行員的生命。同一個代理人可能會導致友軍空中相撞。空軍有責任為作戰人員提供指導，以便他們能夠做出正確的決策，並根據任務進行調整，使其適用於使用相同控制軟體的不同機身。這些指導還應闡明操作員在不斷變化的條件下對系統行為的責任。否則，戰士們將沒有理由信任這些系統，對其行為負責，並認真採用它們。

空軍需要一本代理系統操作員手冊。依賴於假設意外行為預設為錯誤的指導，限制了代理系統獨特的價值主張。

隨著實驗操作單位開始將協同作戰飛機交到操作員手中，建立早期準則變得越來越有必要。例如：空軍總部正在修改飛行出版物以適應自主協同平台；空中作戰司令部已起草了三卷協同作戰飛機飛行操作手冊，作者已審閱；以及規定了半自主和自主系統使用指南的第 3000.09 號指令，技術上將這些系統包含在其範圍內。但仍然沒有指導教導操作員判斷一個令人驚訝的代理人是聰明的還是損壞的，這是無控制指揮的前提。

有三種現有的指導方法很誘人，但每種都會適得其反。首先，高級領導人可以指示單位如何在戰鬥中使用這些系統。但應該由戰士來定義什麼是有價值的，而不是被告知要整合什麼。其次，飛機手冊可以寫得具有開放式的靈活性（「預期意外」）。但這種指導太模糊，無法達到寫作的目的。第三，五角大廈可以修改第 3000.09 號指令。但指定子系統邊界對該文件來說過於細緻。以任務為中心的手冊，授權飛機手冊不具備的風險，是前進的道路。

空軍已經發布了跨平台、以任務為中心的手冊。飛行測試和航空醫學後送由總部擁有，而不是由單一機身擁有。同樣，該軍種可以為指揮代理人的任務制定跨平台指導。與以往以任務為中心的手冊不同，這將是一本監督系統的手冊，而不是領導人員的手冊。對於代理人來說，這可以透過對它們被命令執行的任務進行分類來完成。類別應與代理人產生的風險對齊。像無人系統的自主等級（Autonomy Levels for Unmanned Systems）和操作設計域（Operational Design Domain）等來源可以提供幫助。但隨著技術和敵方環境的演變，作戰機組人員應該擁有最終決定權。

沒有針對代理人指揮量身定制的指導，簡單的更新就會變得棘手。考慮在戰鬥中進行例行巡邏。無論是從戰鬥機、地面還是加油機指揮，操作員都需要它保持在地理區域內。假設該區域的一個角落變得不可用。對人類來說，調整巡邏路線差異不大。但對代理人來說，選項空間爆炸了。代理人可能不會沿著邊界飛行，而是會切角以覆蓋更多地面。在現有指導下，這將觸發空軍級別的變更、飛機手冊的修訂，或者根本沒有修復。但跨平台指導為社區提供了一種診斷行為的共同語言。一旦判斷出來，及時的更新就可以在整個機隊中傳播。機隊的飛機手冊就不需要更新以適應代理軟體的變更。

去年秋天，我當時在那裡駕駛飛機，以防代理人需要被覆蓋。但有一天，代理人可以預期從引擎啟動、任務執行期間，到返回基地，除了目標選擇和武器使用外，都由它控制飛機。無論是由飛行員、維護人員還是代理人本身控制，指揮而不控制的挑戰將持續存在。

在實際飛行測試期間的簡單機動，已經揭示了與領導人類相比，指揮代理人所面臨的挑戰。當首次在這些協同平台之一的實際飛行中使用自主核心時，代理人的任務是在定義的地圖區域內以特定高度和空速飛行。系統需要計算轉彎方向以保持在指定區域內。這對人類或自動駕駛儀來說很容易飛行，因為人類可以運用常識和多年的訓練，而自動駕駛儀可以遵循可預測的、預先編寫的規則。

然而，對於代理人來說，意外的機器決策有可能改變一切。因此，在這些受控的測試條件下，總是有主題專家待命。當飛機做出不適當的轉彎時，我介入並指揮它飛向預定航線，這樣它就不太可能轉向團隊預期之外的方向，從而可能導致空中相撞。當然，未來的戰鬥任務不會有這些受控條件。擴展到其他任務集也意味著需要持續努力，超越目前與協同作戰飛機合作的主題專家團隊。

與自動駕駛儀、導彈或遙控飛機不同，代理人是為了找到操作員可能無法預料到的可行解決方案而構建的。然而，出於充分的理由，目前的程序假設情況恰恰相反。對於基於規則的軟體，如果機器沒有被明確編程去做某事，它就不應該去做。沒有關於如何指揮代理人的指導，操作員在戰鬥壓力下將會依賴自己的直覺，並拋棄任何他們不理解的東西。

從控制代理人的文化轉變為與之協作的文化，有幾個含義。

首先，根據代理人任務的難易程度對其進行分類，而不是根據任務類型。你不能假設對人類來說困難的事情對代理人來說也很困難，反之亦然。一個在 F-16 近距離空中支援領域有 20 年經驗的人，在轉向 B-2 隱形任務時可能會遇到困難。但對代理人來說，沒有近距離空中支援或打擊之說。它們只是模型根據接收到的輸入（例如，保持在邊界內）產生的輸出。一個為矩形地理區域內的近距離空中支援而訓練的代理人，可能比為非矩形區域內的近距離空中支援而訓練的代理人更容易適應打擊任務。透過任務對輸入進行分類，例如空域邊界規避和武器釋放時機，是理解不同任務集中的代理人風險的有效方法。這些任務風險需要對人類監督者來說是可理解的。代理人預期在白天接收到的輸入應與其訓練內容進行比較。

其次，數學可能比直覺更有用。對代理人來說，任務沒有「容易」或「困難」之分。一旦它獲得所有輸入，機器就會產生輸出。代理人的行為可能看起來是隨機的，但實際上，它是訓練有素的模型處理接收到的數據的輸出，這意味著它的趨勢是可以測量和量化的。操作員面臨的不確定性存在於輸入和條件中，以及模型的訓練在多大程度上涵蓋了它們。概率可以衡量這一點。更重要的是，操作員應該判斷訓練條件在多大程度上對實際戰鬥有效。對於人類僚機，操作員可以說「一個理性的人會假設這個」或「我們在學校訓練他們這樣做」。但一個擁有萬年完美訓練數據的代理人，如果最新的軟體更新中有一個錯誤，仍然會犯錯。模擬器是這個謎題的重要組成部分，應該用來為操作員提供代理人在執行不同任務時的可靠性熱圖。但操作員需要考慮訓練與實際任務中的感測器數據質量。將這些計算整合成代理人在給定條件下將如何行動的概率，並不容易。但你為代理人付費的原因是它的即興創作能力，以及它在沒有直接控制的情況下遵循命令的能力。如果我們不願意給予協同作戰飛機這種自由度，那麼我們就應該購買更多的傳統遙控無人機或空對空導彈。

第三，操作員的頻寬是代理人輸入的一部分。延遲、中斷和噪聲可能來自敵方或環境，但也可能來自操作員提供命令的可用性。位於戰鬥機、加油機或地面指揮控制站的操作員可能面臨截然不同的限制。我經常被問到：「你能同時駕駛多少架無人機？」如果我用操縱桿著陸飛機，答案是一架。如果我管理靜態地理區域的巡邏，那可能是數百架。戰鬥機中的人類可能需要連接到其伴隨的代理人駕駛的飛機，但由於他們正以最高速度攔截敵方戰鬥機，可能每五分鐘才能進行一次指令注入。因此，手冊應評估對於命令可用性相對較低的任務，代理人難度更高。

一旦風險與手冊的批准對齊，教官將擁有共同的語言來教導操作員如何做出本能的決策來指揮非直觀的系統。人類將指揮代理人，而代理人將做它們最擅長的事情——給我們帶來驚喜。

將代理系統整合到空軍行動中的時機已經成熟。高級軍事領導人已承諾將自主協同平台作為首要的現代化重點，產業也渴望提供解決方案。誘惑在於利用這個機會，盡快將這些系統推向戰場。協同作戰飛機計畫的遺產將不會由機身，甚至不是自主堆疊來定義。它將是由這些系統的人類指揮官所建立的文化，這種文化將貫穿任務集。

如果沒有足夠快速變化的指導，就很難想像這一點。讓每個飛機手冊以相關的速度在整個空軍進行更新，這是一個很大的要求。一本獨立於硬體、以代理人為中心的 يد manual 可以填補這一空白。我自己的飛行測試經驗讓我相信，即使隨著實踐的增加，隨著代理人任務日益複雜，操作員仍然落後於進度。只有當戰士們選擇自行整合這些系統時，對自主性的戰略投資才會得到回報。