美國國防部研究與工程部副部長艾米爾·麥可(Emil Michael)表示,官員們正使用新一代的代理式AI工具,將數週的工作壓縮至數小時內完成。然而,這些相同的工具也開創了數位犯罪的新領域,並正在改變網路安全的本質。

麥可週二在五角大廈告訴記者,自去年12月以來,該部門的GenAI.mil平台上的代理式工具的推出取得了「巨大的成功」。

麥可說,人們正在使用這些工具來處理「他們工作中平凡的部分」,並將「為期兩週的任務壓縮到三個小時內」。

該平台最近加入了Google的Gemini,並正在尋找更多類似的工具。

他說:「我們正試圖提供選項,這樣我們就不會被單一供應商綁定,而且這些模型中的每一個都是以略有不同的方式在不同的數據上進行訓練的。所以我們將了解哪些模型在哪些方面更具能力。」

在尋求能夠幫助發現漏洞的AI工具方面,五角大廈甚至正在評估Anthropic公司製造的強大代理式模型Mythos。Anthropic已被官方標記為國家安全風險,該公司已就此標籤對政府提起訴訟。

麥可表示,政府目前正處於與Mythos的「測試與評估期」,該模型已被機構和一群精選的大公司用於發現漏洞。他試圖解釋五角大廈為何仍在使用一家據稱威脅國家安全的公司的工具,他說Mythos「在某些方面是不同的產品。可能與公司本身不同。」

麥可說,五角大廈和聯邦政府的其餘部門現在必須做的是「看看這個模型能對政府軟硬體基礎設施,以及對私營部門……對鄉村醫院、對污水處理廠、對所有事物能做什麼。這樣我們就能在對手獲得相同能力之前修補它們。」

麥可說,像Mythos這樣的代理式AI工具,能夠在沒有人工監督的情況下發現和修補漏洞,將變得更加標準化。

「現在所有大型科技公司都在使用這些網路模型來發現漏洞。他們正試圖使用代理和相同的模型來進行自動修補。因此,我們預計這將在整個行業、整個政府中增長。」

但這不足以防範未來AI驅動的攻擊。

AI新創公司Barding Defense的創辦人傑克森·里德(Jackson Reed)表示,代理式工具將以許多機構尚未意識到的方式改變網路安全。

里德說:「我們將看到犯罪集團看起來更像國家行為者。」

這意味著什麼?今天,大多數網路罪犯專注於快速獲利的攻擊,例如竊取數據或為勒索而加密數據。但他表示,很快,他們將模仿一些國家支持的中國和俄羅斯團體,試圖潛伏在網路中進行間諜活動、進行「橫向移動」或操縱數據。

里德在後續的電子郵件中表示:「攻擊者技能的變化將產生全新的攻擊分類(例如工業化內幕交易的例子,或全行業的勒索軟體部署),這將對社會構成風險,並引發對現有憲法方法的有效性的質疑。」

這將為網路罪犯和與這些犯罪集團經常合作的國家(如俄羅斯)創造商業模式。里德說,使用AI自動偵測和修補軟體漏洞無法防範這一點。例如,他說,Anthropic最新的用於編碼和推理的模型Opus 4.6可以發現和修復軟體漏洞,但它會錯過橫向移動等問題。

里德正與美國軍方合作的網路安全公司Breakpoint Labs合作,開發一種新型代理平台,以幫助網路安全專業人員發現代理式AI工具啟用但無法偵測到的新型攻擊。

五角大廈熱衷代理式AI,卻賦予網路罪犯國家級能力五角大廈熱衷代理式AI,卻賦予網路罪犯國家級能力五角大廈熱衷代理式AI,卻賦予網路罪犯國家級能力五角大廈熱衷代理式AI,卻賦予網路罪犯國家級能力五角大廈熱衷代理式AI,卻賦予網路罪犯國家級能力五角大廈熱衷代理式AI,卻賦予網路罪犯國家級能力