AI 公司能否設定軍方使用其模型的限制?Anthropic 正與五角大廈展開激烈談判,因拒絕遵守新的軍事合約條款,該條款要求放寬 AI 模型的防護措施,允許「任何合法用途」,包括對美國人的大規模監控及完全自主致命武器。
五角大廈首席技術官 Emil Michael 威脅若 Anthropic 不遵守,將被列為「供應鏈風險」,這一標籤通常只授予國家安全威脅。據報導,Anthropic 的競爭對手 OpenAI 和 xAI 已同意新條款,但即使在與國防部長 Pete Hegseth 的白宮會議後,Anthropic 執行長 Dario Amodei 仍堅持公司紅線,表示「威脅不會改變我們的立場:我們無法良心上同意他們的要求」。
根據《紐約時報》報導,白宮官員正施壓 Meta 提交其 AI 模型接受評估,OpenAI、Anthropic、Google、Microsoft 和 xAI 已同意此舉。Meta 發言人 Francis Brennan 表示:「我們正在處理細節,希望很快簽署協議。」
五角大廈已與 OpenAI、Google、Microsoft、Amazon、Elon Musk 的 xAI 及新創公司 Reflection 達成協議,允許在機密環境中使用其 AI 工具,但排除曾被用於機密信息的 Anthropic,並將其列為供應鏈風險。
這建立在 OpenAI 和 xAI 已與五角大廈達成「合法」使用 AI 系統協議的基礎上。《The Information》報導 Google 也達成類似協議。《華爾街日報》指出,Microsoft 和 Amazon 已與五角大廈有深厚合作關係,而 Nvidia 和 Reflection 則是新簽約。
參議員 Jacky Rosen 在參議院軍事委員會聽證會上詢問國防部與 Anthropic 的爭議,以及是否能保證 AI 目標決策有人類監督,Hegseth 專注於 Amodei 和公司拒絕「接受我們的服務條款」。
在 CNBC 電視採訪中,他表示 Anthropic 與國防部的訴訟中,雙方在白宮有過正面會談,討論其熱門私有模型 Mythos,「我們有很好的對話,我認為他們很聰明,能發揮巨大作用。」
消息人士告訴 Axios,該機構是約 40 個獲准使用 Anthropic 的組織之一,儘管五角大廈認為 Anthropic 是國家安全威脅。據報 NSA 主要用其技術識別自身網絡漏洞,但鑒於過去紀錄,外界對此仍持謹慎態度。
特朗普政府與 Anthropic 爭執近兩個月,稱其為「激進左派、覺醒公司」,並指控其為國家安全威脅。但隨著 Anthropic 推出聚焦網絡安全的新模型 Claude Mythos Preview,雙方關係似有緩和跡象。
Anthropic 與五角大廈的關係在二月下旬迅速惡化,因公司拒絕讓技術用於國內大規模監控或無人監控的致命自主武器。Anthropic 過去被國防部大量使用,且是首家獲准在機密軍事網絡運行模型的公司。僵局引發社交媒體公開互罵,Anthropic 被列為「供應鏈風險」,公司提起訴訟抗議該標籤,並獲得臨時禁令暫停禁令。
《華爾街日報》報導,Anthropic 將繼續被排除在新合約和五角大廈系統之外。
經過數週對峙,Anthropic 在訴訟中獲得初步禁令,法官 Rita F. Lin 指出五角大廈因其「透過媒體的敵對態度」將其列為供應鏈風險,懲罰 Anthropic 以阻止其公開質疑政府合約立場,屬非法的第一修正案報復。
Anthropic 與五角大廈的爭議擴展至國會。參議員 Adam Schiff 正推動新法案,將 Anthropic 的紅線納入法規,確保生死決策由人類掌控;參議員 Elissa Slotkin 也提出法案限制國防部使用 AI 進行大規模監控。
本月初,特朗普政府將 Anthropic 列為供應鏈風險,因其限制軍方使用 AI 模型,Anthropic 提起訴訟指控政府違憲,堅持不讓軍方用於完全自主武器和大規模國內監控,拒絕與主要競爭對手 OpenAI 簽訂的合約條款。Anthropic 正等待法院是否會阻止政府的供應鏈風險標籤決定。
在與五角大廈的漫長對峙中,Anthropic 宣布成立內部智庫 Anthropic Institute,整合三個研究團隊,聚焦 AI 對就業、經濟、安全及價值觀的影響,以及控制權問題。
同時,Anthropic 進行高層調整,聯合創辦人 Jack Clark 將領導智庫,擔任公共利益主管,接替其五年多的公共政策主管職務。公共政策團隊規模在 2025 年擴大三倍,現由前外部事務主管 Sarah Heck 領導,並將在華盛頓特區設立辦公室,繼續關注國家安全、AI 基礎設施、能源及民主領導力等議題。
Anthropic 對美國政府的供應鏈風險標籤提出訴訟,指控特朗普政府非法懲罰其因堅守大規模監控和完全自主武器的紅線。訴狀指出,政府試圖摧毀這家全球增長最快的私企的經濟價值,該公司在負責任開發關鍵新興技術方面居領先地位。
美國國防部的供應鏈風險標籤反而提升了 Claude 的需求,自上週起在所有開放國家每日註冊人數屢創新高。
AppFigures 數據顯示,Claude 在美國、加拿大及歐洲多國的 App Store 免費及 AI 應用排行榜中名列前茅。
CEO Dario Amodei 在部落格確認國防部正式發函將其列為供應鏈風險,並計劃提起訴訟。他澄清此標籤主要影響與國防部直接合約中使用 Claude 的客戶,絕大多數用戶不受影響。
經過數週談判破裂、公開最後通牒及訴訟威脅後,國防部正式將 Anthropic 列為「供應鏈風險」,禁止防務承包商若使用 Claude,則不得與政府合作。此標籤通常用於與敵對政府有關的外國公司,首次用於美國企業。
據《金融時報》報導,Anthropic CEO Amodei 正與國防部研究與工程副部長 Emil Michael 重新談判合約,試圖挽回與美軍的合作關係,避免因被列為供應鏈風險而被排除在防務工作之外。Michael 上週在社交媒體上批評 Amodei 是「說謊者」且有「上帝情結」,指責他「危害國家安全」。
據 CNBC 報導,國防部長 Pete Hegseth 宣布將 Anthropic 列為供應鏈風險後,與美軍合作的公司紛紛轉向其他 AI,防務公司出於謹慎已開始放棄 Claude。
OpenAI CEO Sam Altman 公布已與五角大廈達成新合約,允許軍方在機密網絡部署其模型,並強調禁止國內大規模監控及強調人類對武力使用負責,包括自主武器系統。Altman 呼籲五角大廈將相同條款提供給所有 AI 公司。
特朗普宣布禁止聯邦政府使用 Claude,雖後來改為六個月逐步淘汰,但據《華爾街日報》報導,該 AI 工具仍被用於策劃對伊朗的空襲,協助情報評估與目標識別。
專家指出,將 Anthropic 列為供應鏈風險或動用國防生產法可能對整個 AI 產業產生寒蟬效應,甚至可能是 AI 產業部分國有化的開端。
總體而言,Anthropic 與五角大廈的爭議反映了 AI 技術在軍事應用中面臨的倫理與安全挑戰,也引發了對 AI 監管與人類控制權的廣泛討論。未來幾個月,這場法律與政策的拉鋸戰仍將持續成為焦點。