「當你專注於一個(AI)模型,而那個模型突然無法使用時,會發生什麼事?」美國印太司令部(U.S. Indo-Pacific Command)的資源與需求主任週一在此表示,這正是該司令部目前面臨的現實。
聽眾在短暫的停頓後,謹慎地笑了起來,意識到鮑勃·史蒂芬森(Bob Stephenson)很可能指的是Anthropic的Claude模型。
「事情就是會發生,」史蒂芬森週一在太平洋作戰科學與技術會議(Pacific Operational Science & Technology conference)上說。「你知道,我其實是從去年九月開始思考這個問題的。我們當時正在制定一個計畫,希望讓我們的勞動力在模型上更加中立。現在我們只是加快腳步。」
一年多前,印太司令部在其總部整合了AI。不到兩週前,川普總統指示聯邦機構停止使用Anthropic的工具。週一,該公司起訴了五角大廈、國防部長皮特·海格斯(Pete Hegseth)等人,聲稱遭到非法報復。
史蒂芬森在主持一個聚焦於多領域指揮與控制進階夥伴關係的專題討論時,描述了他自己的「AI歷程」。
「我目前的挑戰是:我正在嘗試——如果你了解聯合作戰的七項功能……這些事情都是同時發生的。」
「如果你要派遣一艘船進入發射導彈的位置……你必須擔心,它是否有足夠的燃料到達那裡?它回來時是否需要加油?重新裝填呢?發射器的狀態如何?武器的狀態如何?等等。所以這些事情都會相互影響。因此,我們正試圖利用AI來創建代理工作流程,以便我們能夠大規模地完成這項工作。」
他表示,在世界的另一端,中央司令部(Central Command)「每天大約執行一千次火力打擊。這是一個很大的數字。這就是我們認為現代戰爭的樣子。他們正努力跟上這個進度,並且他們正在使用一些對我們來說效果很好的AI工具。」
小組成員、澳洲國防部整合指揮、控制、通信和計算專案負責人保羅·蓋特納(Paul Gaertner)告訴聽眾,他擔心過度信任和過度不信任AI。
史蒂芬森表示,他也分享這種擔憂。但當被問及是否允許自主系統自行管理並減輕自身風險時,他回答「算是吧」。
「我的上司告訴我們,在進攻性武器方面,必須有人類代理權,」史蒂芬森提到指揮官山姆·帕帕羅海軍上將(Adm. Sam Paparo)時說。但對於防禦性武器,「標準則有所不同。如果有人在向你開槍,(在讓系統自動防禦威脅方面)就有更大的彈性。」
史蒂芬森於2003年以30年的海軍服役生涯退役,他指出,自他擔任海軍上校以來,美國就已經擁有自主武器系統。
「有對自主性的需求。在邊緣地區有對自主性的渴望,但其中一些,我們擁有的每一件武器都有故障安全機制。顯然,我們不希望釋放一個蜂群,它只是到處亂飛並攻擊錯誤的目標。所以會有限制,」他說。但「我們有這些叫做魚雷的東西,我們已經發射了幾年,它們開發出了所謂的『反圓周運行』,防止魚雷盤旋」並回頭「攻擊發射它的目標。所以可以想像,自主系統也會有類似的限制。」