人工智慧正在加速監控的腳步，而法律卻尚未跟上。

國防部與 AI 公司 Anthropic 之間持續的公開爭執，引發了一個深刻且仍未得到解答的問題：法律是否真的允許美國政府對美國公民進行大規模監控？

令人驚訝的是，答案並非一目了然。愛德華·史諾登揭露美國國家安全局（NSA）收集美國人手機大量元數據十多年後，美國仍在應對普通民眾的認知與法律允許範圍之間的差距。

Anthropic 與政府對峙的導火線，是五角大廈希望利用 Anthropic 的 AI Claude 分析美國公民的大量商業數據。Anthropic 要求其 AI 不得用於大規模國內監控（或用於自主武器，即無需人類監督即可殺死目標的機器）。談判破裂一週後，五角大廈將 Anthropic 指定為供應鏈風險，這是一個通常保留給對國家安全構成威脅的外國公司的標籤。

與此同時，ChatGPT 的競爭對手 AI 公司 OpenAI 達成了一項協議，允許五角大廈將其 AI 用於「所有合法用途」——批評者認為這種措辭為國內監控敞開了大門。隨後的週末，用戶紛紛卸載 ChatGPT。抗議者在舊金山 OpenAI 總部周圍寫下訊息：「你們的底線是什麼？」

OpenAI 週一宣布，已修改協議，確保其 AI 不會被用於國內監控。該公司還表示，其服務不會被 NSA 等情報機構使用。

執行長 Sam Altman 認為，現行法律禁止國防部（現有時稱為戰爭部）進行國內監控，而 OpenAI 的合約只需引用這項法律即可。「戰爭部同意這些原則，並將其反映在法律和政策中，我們將其納入我們的協議中，」他在 X 上寫道。Anthropic 執行長 Dario Amodei 則持相反觀點。「在這種監控目前合法的前提下，這僅僅是因為法律尚未跟上 AI 快速增長的能力，」他在一份政策聲明中寫道。

那麼，誰是對的？法律是否允許五角大廈利用 AI 監控美國公民？

答案取決於我們如何定義「監控」。明尼蘇達大學法學院的法律教授 Alan Rozenshtein 表示：「許多普通民眾認為是搜查或監控的事情……在法律上實際上並不被視為搜查或監控。」這意味著公開資訊——例如社群媒體貼文、監視器畫面和選民登記記錄——都是合法的。從外國人監控中偶然獲取的美國人資訊也是如此。

最值得注意的是，政府可以從公司購買商業數據，其中可能包含敏感的個人資訊，如手機位置和網頁瀏覽記錄。近年來，從 ICE 和 IRS 到 FBI 和 NSA 的機構越來越多地利用這個數據市場，這得益於以廣告為目的收集用戶數據的網路經濟。這些數據集可以讓政府獲取未經搜查令或傳票即可獲得的資訊，而通常需要這些程序才能獲取敏感個人數據。

Rozenshtein 表示：「政府可以收集大量關於美國公民的資訊，而這些資訊本身不受憲法（即第四修正案）或成文法的約束。」而且，對於政府如何處理所有這些數據，並沒有實質性的限制。

這是因為直到過去幾十年，人們還沒有產生龐大的數據雲，從而開闢了新的監控可能性。第四修正案保護人們免受無理搜查和扣押，但在當時收集資訊意味著進入人們的家中。

後續的法律，如 1978 年的《外國情報監控法》（FISA）或 1986 年的《電子通訊隱私法》（ECPA），是在監控涉及竊聽電話和攔截電子郵件時通過的。大多數關於監控的法律是在網際網路興起之前就已存在的。我們當時沒有產生大量的線上數據軌跡，政府也沒有複雜的工具來分析這些數據。

現在我們有了，而 AI 正在極大地增強監控的潛力。Rozenshtein 說：「AI 的作用在於，它可以獲取大量本身並不敏感、因此本身不受管制的資訊，並賦予政府許多以前沒有的權力。」

AI 可以匯總零散的資訊，以大規模地識別模式、得出推論並建立詳細的人物檔案。只要政府合法收集資訊，就可以隨意處理這些資訊，包括將其輸入 AI 系統。「法律尚未跟上技術現實，」Rozenshtein 說。

雖然監控可能引發嚴重的隱私擔憂，但五角大廈在收集和分析美國公民數據方面可能具有合法的國家安全利益。前五角大廈軍事情報官員 Loren Voss 表示：「為了收集美國公民的資訊，必須針對非常特定的任務子集。」

例如，反情報任務可能需要有關為外國工作或策劃參與國際恐怖活動的美國公民的資訊。但針對性情報有時會擴展到收集更多數據。「這種收集確實會讓人生畏，」Voss 說。

OpenAI 已修改其合約，表示該公司的 AI 系統「不得故意用於對美國個人和國民進行國內監控」，並符合相關法律。該修正案澄清，這禁止「故意追蹤、監控或監視美國個人或國民，包括透過採購或使用商業購買的個人或可識別資訊。」

但增加的措辭可能無法有效推翻五角大廈可將該公司 AI 系統用於所有合法用途的條款，這可能包括收集和分析敏感個人資訊。喬治華盛頓大學法學院的法律教授 Jessica Tillipman 表示：「OpenAI 可以在其協議中說任何它想說的話……但五角大廈將會為了其認為合法的原因而使用這項技術。」這可能包括國內監控。「大多數時候，公司無法阻止五角大廈做任何事情，」她說。

該措辭也對「無意」監控，以及對居住在美國的外國國民或無證移民的監控留下了懸而未決的問題。Tillipman 說：「當對法律存在分歧時，或者當法律發生變化時，會發生什麼？」

OpenAI 未回應置評請求。該公司尚未公開其新合約的全文。

除了合約之外，OpenAI 表示將實施技術保障措施，以執行其反監控的底線，包括一個監控和阻止違禁用途的「安全堆疊」。該公司還表示將部署自己的員工與五角大廈合作並保持聯繫。但尚不清楚安全堆疊將如何限制五角大廈使用 AI，以及 OpenAI 的員工在多大程度上能了解其 AI 系統的使用情況。更重要的是，尚不清楚該合約是否賦予 OpenAI 阻止該技術合法使用的權力。

但這也許並非壞事。讓一家 AI 公司有權在政府行動期間關閉其技術，也帶有自身的風險。Voss 說：「你不會希望美國軍方處於一種情況，他們合法需要採取行動來保護國家安全，而一家私人公司卻關閉了技術。」但她說，這並不意味著國會不應該劃定明確的界線。

這些問題沒有一個是簡單的。它們涉及隱私與國家安全之間殘酷的艱難權衡。這或許也是為什麼它們應該由公眾來決定——而不是在行政部門與少數幾家 AI 公司之間的密室談判中決定。目前，軍用 AI 正由合約而非立法來監管。

一些立法者開始發聲。週一，奧勒岡州參議員 Ron Wyden 將尋求兩黨支持，以立法解決大規模監控問題。他一直倡導限制政府購買商業數據的法案，包括《第四修正案不適用於購買》（Fourth Amendment Is Not For Sale Act），該法案於 2021 年首次提出但尚未成為法律。他在最近的一份聲明中說：「根據這些數據創建美國公民的 AI 個人檔案，代表了大規模監控的令人不寒而慄的擴張，不應被允許。」