前線正轉變為訓練AI模型的場所，而目前這裡實際上是一個不受管制的區域。

烏克蘭的戰場上散落著無人機的殘骸，無人機如今已牢牢確立了其作為現代戰爭關鍵武器的地位。然而，在所有這些殘骸背後，國防領域出現了一個新的金礦。無人機產生的數據將遠遠超過其用於作戰的戰爭壽命，並日益成為塑造甚至影響民生的人工智慧架構的一部分。

每一次飛行，無人系統都會收集數千個數據點，從圖像和影片到控制器輸入。這些記錄共同展示了機器和人員如何應對不斷變化的環境。

烏克蘭現已開始將這些經驗轉化為一種資源。其國防部於一月宣布，將向軍事承包商和商業公司開放數百萬個在數萬次無人機飛行中收集的數據點，自那時以來，已有超過一百家公司和英國政府獲得了存取權。

對於一個處於戰爭中的國家來說，這是吸引資金和建立合作夥伴關係的捷徑。但此舉將前線變成了一個活躍的模型訓練場，利用戰爭的混亂所創造的條件，而這些條件是AI公司難以自行複製的。

其他國家和戰場很可能會效仿烏克蘭的做法，但管理這個新興產業的責任不能僅由一個為生存而戰的國家承擔。這種法律真空必須由參與該產業發展的國家和公司共同填補。

烏克蘭的戰場並非首次產生用於訓練和開發模型的記錄：2010年代後期，美國在敘利亞和葉門上空的無人機收集的數據，為第一代半自主軍事硬體提供了資訊。

現在的區別在於，存取這些數據被用於開發更廣泛的生態系統。對國防公司而言，其財務價值是巨大的：戰場數據提供了在實驗室無法產生的條件下收集的大量機器經驗。

這是因為對訓練AI模型最有價值的數據來自於例外情況：視野消失的瞬間、信號被干擾，或是人為操作員的即興發揮。AI公司花費數年時間和巨額資金，試圖捕捉足夠多的這些時刻，以使其模型更加穩健。但戰爭以一種受控測試無法比擬的頻率產生了這些情況。

這種不斷變化的地形，使得無人機數據的價值遠超戰場本身。用於配送或遙感的商用無人機可能永遠不會遇到砲擊，但它仍然必須在人們行為不可預測的世界中，在資訊不完整的情況下運作。戰爭將相同的問題壓縮到更短的時間線上。

經過處理並與其操作員行為記錄相匹配後，這些數據將操作記錄轉化為訓練集。戰鬥成為了一種商業資產。

許多衝突已經見證了這種訓練循環的發生，無人機影像為後續幾代軍事技術提供動力，而市場預計將會增長。Enabled Intelligence，一家專門處理數據以供AI訓練使用的美國公司表示，它已經提供了超過五十萬小時的烏克蘭無人機影像，用於下一輪模型的訓練，並宣傳其在軍事和商業系統中的潛在用途。

如今定義我們現代戰爭時代的許多無人機，最初都是民用技術。但它們最近被新的、商業上可用的AI系統所加速，這些系統允許廉價的機器在環境變化時自主運行——無論是單獨還是成群飛行。每一次飛行都會創建一個系統遇到的情況記錄。

由此產生的數據至關重要。通常用於訓練這些自主系統的受控實驗室環境可以模擬失敗，但無法與戰場的真實條件和實際風險相提並論。軍事情報計畫通過「Maven計畫」等項目，近十年來一直持有「掠食者」和「收割者」無人機等傳感器密集型系統產生的數據，但存取權完全保留在國防領域內。生成的數據僅通過受限的、機密的管道提供，僅用於開發將反饋給產生數據的軍隊的新武器系統。現在，這種經驗正被分享給更廣泛的開發網絡。

循環現在閉合了。適應戰場的商業技術正在產生數據，這些數據可以流回它們最初來自的行業，成為政府和私營部門共同依賴的數據基礎設施的一部分。

在烏克蘭信號干擾的空域接受訓練的無人機，現在已被部署到農業領域，幫助農民繪製和勘測缺乏先前技術所需蜂窩信號的地區的田地。

其他國家很可能會效仿烏克蘭出售其戰場數據，而我們尚未為此將創造的新市場做好準備。

惡意行為者可能會獲取數據，但購買控制措施已經減輕了這種風險。情報人員會仔細檢查潛在客戶的基礎設施，以防數據流入敵人或惡意行為者手中。

訓練數據會產生新的追蹤問題。雖然商業數據集的移動可以在植入的聯繫方式出現在原始買家兩步之外時被跟蹤，但AI訓練數據的出處卻以一種嵌入技術本身的方式消失了。另一個風險是，這種數據的使用會創造一種剝削性經濟，即遠離危險的富裕國家從前線國家的生命威脅中獲益，這可能會產生一種市場激勵，促使戰爭持續下去，成為永無止境的數位黃金礦。

現有法律規範軍隊如何作戰。但它們幾乎沒有提及當戰鬥中產生的記錄被剝離其操作背景，打包成數據，並授權給其產品在產地以外廣泛流通的公司時會發生什麼。

設計這些系統的公司的責任仍未確定。烏克蘭正在建立存取控制，這在最近簽署的英國-烏克蘭AI協議中有提及，但沒有政府正在積極制定法規，規範數據被吸收到模型並重新進入民用市場後會發生什麼。

這些記錄包含著人類的生命。其中可見的士兵和平民並未同意成為多年後可能出售的產品的訓練材料。然而，來自平民逃離無人機襲擊的傳感器數據、攝影機畫面和座標，現在構成了影響未來機器如何做出決定的數據類型。

這是一個同意權的問題。數據中出現的個人——無論是目標、操作員，還是旁觀的平民——都成為了訓練材料的一部分。基於這些數據的自主能力不會止步於戰場邊緣。這些能力會轉移到其他軍事或商業系統，如送貨車輛或農業機械。嵌入數據中的錯誤和假設，即使在模型進入民用生活後也會隨之傳播。

戰場數據不應被視為普通的商業材料。但目前沒有機構或監管機構對此問題擁有管轄權。在此期間，提供國防數據存取權的政府應將其視為受控武器轉讓，記錄其來源，授權其使用者，並限制進一步共享。烏克蘭已開始著手處理此事。其「復仇者實驗室」（Avengers Labs）計畫允許公司在不直接存取敏感數據庫的情況下，利用戰場數據訓練模型。然而，這只解決了問題的一部分。

政府應要求披露在民用產品中使用的、使用戰時材料訓練的模型。此類監管的目標應該是讓從戰鬥到商業的過程可見。

這些公司真正開採的是經驗。士兵無法同意他們的經驗以這種方式被使用——作為產生模型優勢並最終支持在戰爭發生地以外使用的產品的訓練數據。

問題不再僅僅是科技公司能賣什麼用於戰爭。而是他們能從中開採出什麼。

為了保護我們免受這個新興產業的弊端侵害，我們需要一個監管系統，能夠追蹤戰場數據的去向，從戰鬥到模型再到商業產品。

Cory Alpert 是墨爾本大學的研究員，研究人工智慧對民主的影響。他曾任職於拜登政府白宮。

這使得它們很容易被誘騙做不該做的事情，例如告訴你如何破壞飛機的導航系統。

一種新技術讓該公司能夠比以往任何時候都更深入地探究大型語言模型（LLM）的奇特運作方式。

人工智慧不僅僅是從其訓練中學習刻板印象。它也能創造新的刻板印象。

這種不良行為稱為「獎勵駭客」（reward hacking）。這就是你需要知道的。

發現特別優惠、熱門故事、即將舉行的活動等。

感謝您提交您的電子郵件！