根據多位熟悉國防部與 AI 製造商之間爭議的消息人士透露,如果五角大廈執行其禁用 Anthropic 的 Claude AI 平台的威脅,美國軍方可能需要三個月甚至更長時間才能在機密網路上恢復使用如此強大的工具。

週四,Anthropic 執行長 Dario Amodei 重申他拒絕允許 Claude 被用於大規模監控美國公民或指導全自主武器,駁回了五角大廈提出的無限制使用該模型的請求。

Claude 是五角大廈在機密網路上提供的僅有的兩個大型生成式 AI 模型之一,也是唯一屬於前沿模型群組的。國防部並未說明其具體使用方式。但國防部研究與工程部副部長 Emil Michael 曾暗示,其用途包括情報分析(「利用機器合成比人類分析師更多的情報」)和戰鬥推演(「如何預測衝突中可能發生的情況,以及衝突中可能需要哪些東西?」)。

週四稍早,五角大廈發言人 Sean Parnell 表示,國防部僅尋求「合法使用 Anthropic 模型的所有合法目的」,並補充說,五角大廈想要全自主武器或大規模監控的想法是「左翼媒體散播的虛假敘事」。

但 Amodei 表示,這兩點是他堅持的唯一限制。

他在聲明中說:「在極少數情況下,我們認為 AI 可能會損害而非捍衛民主價值觀。有些用途也僅僅超出了當今技術能夠安全可靠地完成的範圍。」

五角大廈官員威脅,如果 Anthropic 堅持其限制,將採取各種報復措施,包括援引《國防生產法》在未經公司許可的情況下使用其產品。

週三,一位國防官員告訴 Defense One:「如果無法達成協議,部長將毫不猶豫地援引《國防生產法》。」

Parnell 週四的貼文並未提及《國防生產法》。他說,該公司「必須在週五下午 5:01(東部時間)前做出決定。否則,我們將終止與 Anthropic 的合作關係,並將其視為 DOW 的供應鏈風險。」

Amodei 在聲明中困惑地回應道:「他們威脅說,如果我們維持這些安全措施,他們就會將我們從他們的系統中移除;他們還威脅要將我們指定為『供應鏈風險』——這是專門針對美國敵人的標籤,從未用於美國公司——並援引《國防生產法》強制移除這些安全措施。後兩項威脅本質上是矛盾的:一個將我們標記為安全風險;另一個則將 Claude 標記為國家安全所必需。」

如果五角大廈確實將這家總部位於舊金山的 AI 新創公司指定為供應鏈風險,熟悉情況的人士表示,這將引發一系列漫長且可能昂貴的保護措施。

他們說,營運人員將不得不重新配置他們輸入模型的數據,重新審視如何與廣泛使用 Claude 的情報界即時共享數據,並重新驗證替代模型是否如軍方預期般運行。

七月,Anthropic 收到了向五角大廈提供其前沿模型工具的 2 億美元合約,其他三家美國此類產品製造商 OpenAI、Google 和 xAI 也獲得了類似合約。

部門領導人敦促其人員使用這些新工具,儘管他們拒絕公開說明使用方式。甚至五角大廈自己也不太清楚;據報導,它正在要求各個司令部描述他們使用 Anthropic 的程度。(然而,Michael 已將美國印太司令部描述為「可能是主要的用戶之一」。)

那麼,為什麼 Claude 是唯一部署在機密網路上的呢?一位國防官員表示,一個關鍵原因是:Anthropic 的工具最容易部署在由 AWS 提供支援的雲端網路上,而 AWS 是五角大廈聯合戰鬥雲端能力的最大貢獻者。

這兩家公司關係尤其密切。AWS 是 Anthropic 的主要雲端服務提供商,Anthropic 使用亞馬遜專有的 Trainium 晶片來訓練其模型。

相比之下,Google 在自己的雲端上運行 Gemini,並使用 TPU v5p 晶片進行訓練。xAI 與 Oracle 合作,並在 NVIDIA H100 GPU 上進行大部分 Grok 訓練。OpenAI 與 Microsoft Azure 有「主要」關係,儘管它最近宣布與 AWS 建立「策略性訓練」合作夥伴關係。

這些關係都不是一成不變的。Anthropic 在 NVIDIA 晶片上訓練了其早期模型。但隨著需求的增長,各前沿 AI 公司簽訂了長期策略合約,這意味著從一個環境遷移到另一個環境將會使數月的工作付諸東流。

知情人士表示,更換該能力可能需要十二個月或更長時間。然而,一位國防部官員表示,他預計在夏季之前,五角大廈的 GenAi.mil 介面上將廣泛提供額外的ક્ષા前沿 AI 模型。

AWS 未回應置評請求。

Michael 表示,他反對 Anthropic 的立場是因為這會造成不可預測性。他上週說,如果營運人員在任務中使用 Claude,然後「模型本身學會了你正在做的事情……然後它就停止工作了。這是我的風險無法承擔的。」

但 Anthropic 的高管反駁說,正是因為 AI 的不可預測性,他們才必須劃定界線。他們表示,至少在有意義的人類監督下,他們無法保證其模型在涉及致命自主性的場景中能夠安全運行,而且他們認為在可能涉及大規模監控 AI 的情況下,該模型並不安全,據了解討論情況的消息人士稱。

他們同意 Michael 的觀點,即五角大廈的一些前沿模型在各種任務上的表現可能優於其他模型。

消息人士還表示,五角大廈與該公司之間的對話大致上是按照正常路線進行的。他們說,Anthropic 一直願意做出各種讓步。但隨著討論公開化,語氣發生了變化。

週二,該公司發布了新的安全政策版本,許多人認為這是對其核心安全承諾的放棄。

在宣布變更的部落格文章中,該公司表示將朝著「非約束性但公開聲明的目標」邁進,以實現安全。「這些不是硬性承諾,而是我們將公開評估進展的公開目標。」

立法者們正在試探性地介入這場辯論。參議員 Mark Warner(維吉尼亞州民主黨)在一份聲明中稱這場爭鬥是「國防部尋求完全無視 AI 治理的又一跡象——這正是政府自己的行政管理和預算局以及科學技術政策辦公室所描述的有效使用 AI 的基本推動因素。」他稱這一事件進一步證明了「國會需要為國家安全環境制定強大、有約束力的 AI 治理機制。」

五角大廈過去曾對自主武器的使用設有政策限制,但國會尚未通過任何立法限制。