人工智慧新創公司 Anthropic 在週五面臨一個沒有贏家的局面。
該公司必須在美國東部時間週五下午 5:01 之前決定,是否同意國防部在所有合法的使用案例中無限制地使用其模型。如果不同意,國防部長皮特·海斯(Pete Hegseth)威脅要將該公司標記為「供應鏈風險」,或透過援引《國防生產法》強制其遵守。
Anthropic 在七月與國防部簽署了一份價值 2 億美元的合約,並且是第一家將其模型整合到機密網路任務工作流程中的 AI 公司。該公司一直在與國防部談判合約條款,並要求保證其技術不會被用於全自主武器或對美國公民進行大規模國內監控。
Anthropic 執行長達里奧·阿莫代(Dario Amodei)週四在一份聲明中寫道:「在少數情況下,我們認為 AI 可能會損害而非捍衛民主價值觀。有些用途也遠遠超出了當今技術能夠安全可靠地完成的範圍。」
國防部拒絕讓步,談判陷入僵局,這已成為迄今為止對 Anthropic 所聲稱價值觀最受矚目的考驗。該公司多年來一直小心翼翼地塑造其作為安全負責任的 AI 部署倡導者的聲譽,將自己定位為與 OpenAI 區別開來,而阿莫代曾在 OpenAI 工作後離職創立 Anthropic。
但 Anthropic 同時面臨著巨大的壓力,需要證明其高達 3800 億美元的估值,這得到了大型機構和策略投資者的支持,同時它也在競賽中努力保持在模型開發的前沿,並抵禦來自 OpenAI 和包括 Google、伊隆·馬斯克(Elon Musk)的 xAI 在內的競爭對手。這三家公司的模型都被國防部使用。
屈服於國防部的要求可能會損害 Anthropic 的聲譽,並疏遠員工和客戶。但如果 Anthropic 拒絕給予軍方不受限制地使用其模型的權限,它可能會在短期內失去有意義的收入,並被其他與政府做生意的公司拒之門外。
喬治城大學新興技術安全中心的高級研究分析師勞倫·凱恩(Lauren Kahn)在接受 CNBC 採訪時表示:「這沒有贏家。這讓每個人都感到不愉快。」
國防部首席發言人肖恩·帕內爾(Sean Parnell)週四表示,國防部「沒有興趣」使用 AI 來開發全自主武器或對美國公民進行大規模監控,他指出這是非法的。他說,該機構希望 Anthropic 同意允許其模型用於「所有合法目的」。
帕內爾週四在 X(前身為 Twitter)上發文寫道:「這是一個簡單、符合常識的要求,將防止 Anthropic 危害關鍵軍事行動,並可能危及我們的戰士。我們不會讓任何公司決定我們如何做出營運決策。」
在另一篇週四的貼文中,國防部負責研究和工程的副部長、前 Uber 高管埃米爾·麥可(Emil Michael)寫道,阿莫代是個「騙子,並且有上帝情結」。他指責阿莫代「只想個人控制美國軍方」。
海斯在本週早些時候與阿莫代的一次會議中設定了週五的最後期限,並警告說不遵守的懲罰可能很嚴重。他說 Anthropic 可能會被標記為「供應鏈風險」,這通常是保留給來自被視為敵對國家的公司。此標籤將迫使國防部的供應商和承包商證明他們不使用 Anthropic 的模型。
阿莫代表示,他的公司不會被嚇倒。
他在週四的聲明中寫道:「這些威脅不會改變我們的立場:我們無法在良心上同意他們的請求。」
這場不斷升級的衝突是其他 AI 公司、行業專家和政府承包商密切關注的。凱恩警告說,如果政府認為「不值得付出努力」,可能會疏遠有前景的科技公司。
凱恩說:「我真的、真的、誠實地擔心,私營公司會說,『與國防部門合作對我們來說不值得。』」她補充說,「真正受苦的是戰士。」
OpenAI 執行長山姆·奧特曼(Sam Altman)週五告訴 CNBC,他「個人不認為五角大廈應該威脅這些公司使用《國防生產法》」。他說,他認為公司選擇與國防部合作很重要,只要他們遵守法律保護和該領域與 Anthropic 共享的「少數紅線」。
奧特曼在一次採訪中說:「儘管我與 Anthropic 有很多不同之處,但我大多信任他們這家公司,我認為他們確實關心安全,我很高興他們一直在支持我們的戰士。我不確定這將如何發展。」
最近幾天,Anthropic 和業界其他幾名員工紛紛在社交媒體上表達對該公司的支持。
OpenAI 的技術人員喬許·麥葛瑞斯(Josh McGrath)週二在 X 上發文表示,他對「正在發生的事情感到無言以對」。
根據其網站,來自 Google 和 OpenAI 的 330 多名員工也簽署了一封題為「我們不會被分裂」的公開信,旨在「面對來自國防部的壓力,建立共同的理解和團結」。
信中寫道:「我們希望我們的領導人能夠放下分歧,團結一致,繼續拒絕國防部目前要求允許我們使用我們的模型進行國內大規模監控和在沒有人類監督的情況下自主殺人。」
對 Anthropic 來說,這是與川普政府的最新一次衝突。
擔任白宮 AI 和加密貨幣沙皇的風險投資家大衛·薩克斯(David Sacks)此前曾指責 Anthropic 支持「覺醒 AI」,因為其在監管方面的立場,並在公司高管於十月發表一篇題為「技術樂觀主義與適當的恐懼」的文章後,指責其「進行一場基於恐嚇的複雜監管俘獲策略」。
與奧特曼、蘋果執行長提姆·庫克(Tim Cook)和 Google 執行長桑達爾·皮查伊(Sundar Pichai)等其他行業高管不同,阿莫代在很大程度上避免與唐納·川普(Donald Trump)總統交往。值得注意的是,阿莫代去年沒有參加川普的就職典禮。
一月,海斯發表了一份題為「加速美國軍事 AI 主導地位」的備忘錄。他在其中寫道,國防部不得採用「融入意識形態『調整』」的 AI 模型,並表示該部門「還必須使用沒有可能限制合法軍事應用的使用政策限制的模型」。
雖然阿莫代堅守公司對安全使用其模型的承諾,但他週四表示,Anthropic 的「強烈偏好」是繼續與國防部合作,並支持美國國家安全。
阿莫代寫道:「如果國防部選擇終止與 Anthropic 的合作,我們將努力實現順利過渡到另一家供應商,避免對正在進行的軍事規劃、行動或其他關鍵任務造成任何中斷。」