美國國防部秘書長彼得·海斯(Pete Hegseth)誓言,若 AI 公司 Anthropic 拒絕允許其人工智慧(AI)技術用於軍事應用,將把該公司從其部門的供應鏈中移除。
據一位熟悉討論的消息人士告訴 BBC,這項威脅是在週二海斯要求與 Anthropic 執行長達里奧·阿莫代(Dario Amodei)舉行的五角大廈會議上發出的。
Anthropic 在一份聲明中表示:「我們持續進行善意的對話,討論我們的使用政策,以確保 Anthropic 能夠繼續支持政府的國家安全任務,並符合我們的模型可靠且負責任地能做到的範圍。」
一位五角大廈高級官員表示,Anthropic 最晚必須在週五晚間之前遵守。
消息人士告訴 BBC,海斯與阿莫代之間的討論語氣是友善的,但阿莫代闡述了 Anthropic 認為的紅線。
這些紅線包括參與自主致命性行動,即 AI 工具在沒有人類干預的情況下做出最終的軍事目標決策。
消息人士稱,使用 Anthropic 工具進行大規模國內監控是另一條紅線。
但五角大廈官員告訴 BBC,該部門與 Anthropic 目前的衝突與使用自主武器或大規模監控無關。
該官員表示,如果 Anthropic 不遵守,海斯將確保《國防生產法》被用於該公司。
該措施可能迫使 Anthropic 的高管基於國家安全理由,允許五角大廈不受限制地使用其技術。
該官員補充說,五角大廈將同時將 Anthropic 列為供應鏈風險。
一位 Anthropic 發言人表示,在與海斯的會議中,阿莫代「對國防部的努力表示讚賞,並感謝部長的服務」。
Anthropic 是 AI 聊天機器人 Claude 的製造商,也是去年夏天獲得五角大廈合約的四家 AI 公司之一。
Google、ChatGPT 的製造商 OpenAI 以及埃隆·馬斯克(Elon Musk)旗下生產 AI 聊天機器人 Grok 的 xAI 也獲得了高達 2 億美元(約 1.48 億英鎊)的合約。
國防部官員艾米爾·麥可(Emil Michael)先前曾表示,該部門希望 OpenAI、Google、xAI 和 Anthropic 能夠允許五角大廈「能夠將任何模型用於所有合法的用例」。
與競爭對手相比,Anthropic 一直致力於將自己定位為更注重安全的方法來進行 AI 研究。
它定期與公眾分享其產品的安全報告。
其中一份去年的報告承認,其 AI 技術已被駭客「武器化」,駭客利用其進行了複雜的網路攻擊。
在有報導稱美國軍方在 1 月份逮捕委內瑞拉前總統尼古拉斯·馬杜羅(Nicolás Maduro)的行動中使用了其 AI 模型 Claude 後,該公司的形象受到挑戰。
Anthropic 是第一家獲准進入五角大廈機密軍事網路工作的科技公司,並與 Palantir 等公司有合作關係。
消息人士告訴 BBC,Claude 模型是透過與 Palantir 的合約在馬杜羅行動中使用的。
五角大廈的立場是,Anthropic 無權干涉五角大廈如何使用其產品。
觀察家認為,Anthropic 與五角大廈目前的爭執源於雙方之間信任的破裂。
喬治城大學新興技術安全中心高級研究員艾米莉亞·普羅巴斯科(Emelia Probasco)表示:「他們需要達成解決方案。」
普羅巴斯科說:「我認為,我們應該給予我們要求服務的人們最大的優勢。我們有義務找出解決辦法。」