目前在機密環境中使用的生成式 AI 模型能夠回答問題，但無法從其所見的數據中學習。這種情況可能很快就會改變。
據《MIT Technology Review》獲悉，五角大廈正討論設立安全環境的計畫，讓生成式 AI 公司能在機密數據上訓練軍事專用的模型版本。
像 Anthropic 的 Claude 這類 AI 模型，已經被用於機密環境中的問題回答，應用包括分析伊朗的目標。但允許模型在機密數據上進行訓練和學習將是一項新發展，並帶來獨特的安全性風險。這意味著像監控報告或戰場評估等敏感情報，可能會內嵌到模型本身中，並使 AI 公司比以往更密切地接觸到機密數據。
根據一位與《MIT Technology Review》匿名談話的美國國防官員表示，在機密數據上訓練 AI 模型預計將使其在特定任務上更準確、更有效。此消息傳出之際，對更強大模型的需求正高漲：五角大廈已與 OpenAI 和伊隆·馬斯克的 xAI 達成協議，使其模型能在機密環境中運行，並正在實施一項新議程，以成為一個「以 AI 為優先的作戰部隊」，同時與伊朗的衝突正在升級。（截至出版時間，五角大廈未對其 AI 訓練計畫發表評論。）
根據兩位熟悉此類操作方式的人士透露，訓練將在一個獲得授權託管機密政府專案的安全數據中心進行，其中 AI 模型的一個副本將與機密數據配對。該官員表示，雖然國防部仍將是數據的所有者，但在極少數情況下，如果 AI 公司人員擁有適當的安全許可，他們可能會存取該數據。
然而，該官員表示，在允許這種新訓練之前，五角大廈打算評估模型在非機密數據（如市售衛星圖像）上訓練時的準確性和有效性。
軍方長期以來一直使用計算機視覺模型（一種較舊形式的 AI）來識別從無人機和飛機收集的圖像和影片中的物體，聯邦機構也已授予公司合約，讓他們在這些內容上訓練 AI 模型。而開發大型語言模型（LLM）和聊天機器人的 AI 公司，已經創建了針對政府工作的微調模型版本，例如 Anthropic 的 Claude Gov，該模型旨在支援更多語言並在安全環境中運行。但該官員的評論首次表明，像 OpenAI 和 xAI 這樣的 LLM 開發公司，可以直接在機密數據上訓練政府專用模型版本。
Aalok Mehta，戰略與國際研究中心 Wadhwani AI 中心主任，曾領導 Google 和 OpenAI 的 AI 政策工作，他表示，在機密數據上進行訓練（而不僅僅是回答有關機密數據的問題）將帶來新的風險。
他指出，其中最大的風險是，這些模型訓練所使用的機密資訊可能會被重新呈現給任何使用該模型的用戶。如果許多不同的軍種，各自擁有不同的機密級別和資訊需求，卻共享同一個 AI，這將是一個問題。
Mehta 說：「你可以想像，例如，一個能夠存取某種敏感人力情報——例如特工的名字——的模型，將該資訊洩漏給國防部一個不應存取該資訊的部分。」這可能會對該特工造成安全風險，如果軍方內部有多個群體使用同一個模型，這種風險將難以完全緩解。
然而，Mehta 表示，要將資訊與更廣泛的世界隔離開來並非不可能：「如果你設置得當，數據被呈現在一般網際網路或回傳給 OpenAI 的風險將非常小。」政府已經擁有部分基礎設施；安全巨頭 Palantir 已贏得巨額合約，用於建立一個安全環境，讓官員能夠就機密主題向 AI 模型提問，而無需將資訊回傳給 AI 公司。但將這些系統用於訓練仍然是一項新挑戰。
在國防部長 Pete Hegseth 一月份的一份備忘錄的推動下，五角大廈一直在競相整合更多 AI。AI 已被用於戰鬥，生成式 AI 已對目標進行排名並建議優先打擊對象，以及在更行政的角色中，如起草合約和報告。
Mehta 表示，目前由人類分析師處理的許多任務，軍方可能希望訓練領先的 AI 模型來執行，而這些任務需要存取機密數據。這可能包括學習像分析師一樣識別圖像中的細微線索，或將新資訊與歷史背景聯繫起來。機密數據可以從情報部門收集的、難以估量的、多種語言的文字、音訊、圖像和影片中提取。
Mehta 謹慎地表示，很難說哪些具體的軍事任務需要 AI 模型在這種數據上進行訓練，「因為顯然國防部有很多動機來保密這些資訊，而且他們不希望其他國家確切地知道我們在這個領域擁有什麼樣的能力。」