週一,Anthropic 因被國防部指定為供應鏈風險而提起訴訟。數小時後,近 40 名來自 OpenAI 和 Google 的員工(包括 Google 首席科學家兼 Gemini 負責人 Jeff Dean)提交了一份法庭之友簡報,支持 Anthropic 的訴訟,並詳細闡述了他們對川普政府此決定的擔憂,以及該技術的風險與影響。

此消息傳出之際,Anthropic 經歷了數週戲劇性的發展。川普政府將該公司標記為供應鏈風險——這項指定通常保留給政府認為可能對國家安全構成風險的外國公司——因為 Anthropic 在軍事用途的兩項可接受使用案例上立場堅定:國內大規模監控和全自主致命武器(或擁有無人介入殺傷力的 AI 系統)。談判破裂,隨後出現公開的侮辱,其他 AI 公司則紛紛簽署合約,允許「任何合法使用」其技術。

供應鏈風險的指定不僅阻止 Anthropic 參與軍事合約,還會連帶黑名單其他使用 Anthropic 產品為五角大廈工作的公司,迫使它們若想維持有利可圖的合約,就必須放棄 Claude。然而,作為首個獲准處理機密情報的模型,Anthropic 的工具已深度整合到五角大廈的工作中——甚至在國防部長 Pete Hegseth 宣布此指定後數小時,美國軍方便據報在擊殺伊朗領導人阿亞圖拉·阿里·哈梅內伊的行動中使用了 Claude。

法庭之友簡報旨在闡述 Anthropic 的供應鏈風險指定「是損害公共利益的不當報復」,並且 Anthropic 紅線背後的擔憂「是真實的,需要回應」。簡報還指出,Anthropic 的兩項紅線值得重新審視,聲明「由 AI 驅動的大規模國內監控對民主治理構成深遠風險——即使在負責任的手中」以及「全自主致命武器系統帶來的風險也必須得到解決」。

支持法庭之友簡報的團體自稱為「在美國前沿人工智慧實驗室工作的工程師、研究人員、科學家和其他專業人士」。

該團體寫道:「我們構建、訓練和研究服務於廣泛用戶和部署的大規模 AI 系統,包括在國家安全、執法和軍事行動等關鍵領域。」「我們提交這份簡報,並非作為任何單一公司的發言人,而是以我們作為專業人士的個人身份,直接了解這些系統的能力與局限,以及當其部署速度超越監管框架時所面臨的風險。」

在國內大規模監控方面,該團體表示,儘管美國公民的數據無處不在,形式包括監控攝影機、地理位置數據、社群媒體貼文、金融交易等,「但尚未出現將這些龐大、零散的數據轉化為統一、即時監控機器的 AI 層」。他們寫道,目前這些數據流是孤立的,但如果使用 AI 將它們連接起來,就可以同時結合「數億人的臉部辨識數據、位置歷史、交易記錄、社群圖譜和行為模式」。

至於致命自主武器,該團體表示,在與其訓練環境不符的新穎或不確定條件下,它們可能不可靠——這意味著「無法信任它們能精確識別目標,也無法做出在達成目標與考量附帶損害之間的細微情境權衡,而這是人類可以做到的」。此外,該團體寫道,致命自主武器系統潛在的幻覺問題意味著,在「發射致命彈藥攻擊人類目標之前」,人類參與決策過程至關重要——特別是系統的推理鏈條通常對操作員不可用,甚至對系統開發者來說也不清楚。

支持法庭之友簡報的團體寫道:「我們的政治和哲學觀點各不相同,但我們都堅信,當前的前沿 AI 系統在用於實現國內大規模監控或在沒有人類監督的情況下操作自主致命武器系統時,會帶來風險,而這些風險需要某種形式的護欄,無論是透過技術安全措施還是使用限制。」