美國面臨著「文明級」AI 挑戰的「緊迫適應時間窗口」,一位前國防部高級思想家在加入 AI 公司 Anthropic 擔任「駐地策略師」時如此表示。

詹姆斯·貝克(James Baker)曾於 2015 年至 2025 年間領導國防部的淨評估辦公室(Office of Net Assessment),該辦公室常被稱為「五角大廈的智庫」,期間曾被川普政府暫時關閉。據該公司週五宣布,在 Anthropic——這家 AI 公司目前正按川普總統的命令,進行為期六個月的聯邦服務撤離——貝克將領導對 AI 如何影響美國機構及與中國競爭的分析。

作為淨評估辦公室主任,貝克曾就新興科技對國家安全的長期影響向國防部長和國家安全顧問提供建議;他此前曾在參謀長聯席會議和其他諮詢職位任職。

數十年來,淨評估辦公室協助美國軍方適應社會、經濟、環境和技術趨勢。該辦公室於 1973 年由尼克森政府的政策策略師安德魯·馬歇爾(Andrew Marshall)設立。透過數據驅動的「系統之系統」方法,它試圖預測從技術發展到軍事事務再到勞動力等趨勢的相互關聯和影響。該辦公室預測了資訊技術將如何極大地提高戰爭速度,以及包括網路和電磁效應在內的新武器的可用性和精確度。這些想法促使對部隊結構進行重新思考,並強調了加速採購改革的必要性。

在其最後十年,淨評估辦公室試圖理解加速人工智能的影響,特別是對於國會一直緩慢改變的冷戰時期機構而言。2016 年的一項總結研究,構成了未分類的 2017 年威爾遜中心(Belfer Center)審查的基礎,該研究識別出機器人和人工智能領域的「寒武紀大爆發」,這將使戰爭變得更便宜、更快,並降低「精緻平台」(如 9000 萬美元的噴氣式飛機)昂貴投資的優勢。

這一趨勢今天在烏克蘭得到了體現,烏克蘭正利用無人機摧毀昂貴的俄羅斯海空防資產。

但在一次採訪中,貝克表示 AI 的國家安全影響遠不止軍事領域。只有認識到包括國防部在內的所有機構的脆弱性,社會才能適應即將到來的變革。

「我們沒有花足夠的時間思考遞歸自我改進的影響,」他說,這意味著智能系統的改進速度遠遠超過其創造者的預期。「最大的風險是現有機構在戰爭與和平時期的長期生存能力。這是我來到 Anthropic 工作要解決的問題之一。這是一個跨越數十年的結構性問題,甚至是文明級問題。」

國防部於去年三月關閉了淨評估辦公室,當時發言人表示這是為了削減與武器沒有直接應用的基礎研究。發言人稱,重組將有助於五角大廈應對「緊迫的國家安全挑戰」。十月,國防部恢復了一個規模較小的淨評估辦公室。

三月,白宮將 Anthropic 指定為供應鏈風險,此前該公司高管拒絕提供其工具用於大規模監控美國公民或指導全自主武器。

四月,Anthropic 宣布將其名為 Mythos 的新 AI 工具的發布限制在少數聯邦機構和公司,以幫助發現網路漏洞。本月,國家漏洞資料庫中記錄的新漏洞數量幾乎翻倍。