在 Mythos 事件的餘波中,由 AI 輔助的業餘駭客正伺機而動。
去年八月,業界頂尖的幾支資安團隊齊聚拉斯維加斯,在 DARPA 的人工智慧網路挑戰賽(AIxCC)上展示他們 AI 漏洞尋找系統的實力。這些工具掃描了 DARPA 注入了人為缺陷的五千四百萬行實際軟體程式碼。參賽團隊不僅能辨識出大部分人為植入的漏洞,他們的自動化工具甚至還發現了十幾個 DARPA 完全沒有植入的漏洞。
即使在 Anthropic 本月推出 Claude Mythos 之前——這款新的 AI 模型似乎能找出它被指向的任何軟體中的漏洞——自動化系統在尋找程式碼缺陷方面的能力就已經日益增強。人們越來越擔心,AI 不僅能偵測到這些缺陷,還可能被用來利用它們,將駭客技能普及到全球每一個人手中。
這並非空穴來風。數十年來,這種被稱為「腳本小子」(script kiddie)的無技能駭客,透過運行從網路上抓取或從漏洞利用工具包複製來的腳本,造成了無數的破壞。他們並不完全理解或缺乏編寫這些腳本的技術知識。然而,他們仍然能夠篡改網站和散播病毒。
現在發生的情況代表了一次重大的升級,沒有技術背景的人能夠利用 AI 增強自身能力,這是過去單純的腳本無法比擬的。這很可能會產生更廣泛的影響。
「海嘯即將來臨。你看得見。我們都看得見,」資安公司 Trail of Bits 的執行長兼共同創辦人 Dan Guido 表示,該公司在挑戰賽中獲得亞軍。「你是要躺著等死,還是要採取行動?」
即使是 Project Glasswing 之外,Anthropic 也在努力防止其軟體被犯罪分子濫用。在宣布 Mythos 後的一週,該公司發布了 Claude Opus 4.7,首次內建了旨在阻止惡意網路安全請求的防護措施。(希望以防禦性方式使用該模型的安全專業人員可以申請該公司的網路驗證計畫。)
Anthropic 發布 Mythos 的消息震驚了整個產業,但在此之前,AI 的網路安全實力已有預警跡象。2025 年 6 月,自主進攻安全平台 XBOW 在 HackerOne(一個漏洞賞金平台)的排行榜上擊敗了人類駭客,顯示出 AI 模型在尋找漏洞方面的能力取得了巨大飛躍。
Guido 表示,到了 AIxCC 舉行時,「已經有 10 到 20 種不同的漏洞尋找系統,它們能找到比我們能修補多出數倍的漏洞。這其實不是一個新問題。」
「2026 年將是所有安全債務到期的一年……2026 年將是決定成敗的一年。」
AI 在模式匹配方面表現出色,人們越來越容易找到已知和尚未發現的漏洞變體。編寫漏洞利用程式也變得越來越容易。
「你可以使用 AI 工具,只需極少的人類指導,甚至在某些情況下無需任何人類指導,就能在廣泛使用的軟體中找到零日漏洞,」Theori 的資深安全研究員 Tim Becker 表示,該公司也是本次競賽的決賽隊伍之一。
整個產業的擔憂顯而易見,模型改進以及對其能力的理解都在以閃電般的速度進行。
開源模型,或稱訓練參數(也稱為權重)公開的模型,也帶來了風險。Becker 表示,事實上,複雜的威脅行為者更有可能運行自己的部署,以防止漏洞在 Anthropic 或 OpenAI 的伺服器上暴露,因為 Anthropic 可能會保留數據以監控濫用。產業正在為接下來可能發生的事情做準備。其他模型創建者可能不像 Anthropic 那樣謹慎,可能會將其強大的新工具直接發布給公眾。
Guido 說:「無論有沒有 Mythos,這都是即將發生的。」
Mythos 在編寫漏洞利用程式方面是一個進步,但目前的模型也同樣強大。安全研究人員已經在使用更廣泛的模型,在漏洞被廣泛利用之前向供應商報告漏洞。這意味著惡意行為者也有可能將其用於不良目的,例如為壓迫性政權創建漏洞利用程式或竊取敏感數據。
業內專家預測,AI 安全能力的進步將導致更多漏洞利用程式的出現。不良行為者可以指示 AI 在先前無人願意花費精力去利用的不常見軟體中尋找漏洞。
「進入一個擁有百萬行程式碼的新程式碼庫並找到漏洞的門檻,比以往任何時候都低得多。」
「現在,由於投入的成本很低,你可以做一些處於食物鏈底層的事情。你可以為只有一家公司擁有的軟體編寫漏洞利用程式。你可以為僅存在於一種配置中、只有一家公司擁有的軟體編寫漏洞利用程式。而且你可以即時完成。所以在入侵某家醫院的過程中,如果有一道牆擋在你和你的目標之間,你可以直接將一個 LLM 指向那道牆,說:『找出這裡的缺陷』,它就可以持續運轉直到成功。它會找到一些漏洞,找到一些配置,運行一個漏洞利用程式,針對一個以前從未有人發現過的弱點,而且用戶——駭客——腳本小子——幾乎不需要付出任何努力,」Guido 說。
他表示,這極大地增強了腳本小子的能力,因為他們將能夠隨機應變,不受記憶隨機 UNIX 工具弱點的限制,而是依賴於他們使用的工具的預訓練。他們將能夠以機器速度迭代針對弱點的漏洞利用程式,這是任何人類——更不用說腳本小子——都無法做到的。
很難確切確定這在多大程度上提高了攻擊者的能力,儘管確實存在相關性。安全研究人員可以幫助我們試圖理解正在發現的漏洞的規模。
在 Becker 開始使用 AI 進行自動漏洞查找之前,他從事漏洞研究,尋找零日漏洞並報告給維護者。他說,過去他需要數週或數月才能在一個全新的程式碼庫中找到一個高影響力的漏洞,而現在只需要幾個小時。
「我只需將程式碼放入我們的 AI 漏洞查找工具中,幾個小時後我就會收到一份報告,其中包含大量候選漏洞,其中大部分最終都被證實是真實的問題,」他說。「進入一個擁有百萬行程式碼的新程式碼庫並找到漏洞的門檻,比以往任何時候都低得多。」
每一次自動化工具的發布,都會引發對其可能被如何利用的恐慌,無論是文字轉圖像生成器,還是開源的漏洞利用開發和傳遞系統 Metasploit。這種恐慌甚至可以追溯到 1995 年,當時一個名為 SATAN(Security Administrator Tool for Analyzing Networks 的縮寫)的免費軟體漏洞掃描器被發布。
「你可以直接將一個 LLM 指向那道牆,說:『找出這裡的缺陷』,它就可以持續運轉直到成功。」
由於預防措施的實施、攻擊者採用率低或其他因素,自動化工具的結果往往沒有達到預期的或預測的混亂程度。
Security Superintelligence Labs 的技術長兼共同創辦人 Joshua Saxe 在一篇部落格文章中寫道,漏洞利用程式本身並不導致網路攻擊,而且對 AI 漏洞研究工具的採用一直是逐步進行的。
他告訴 The Verge:「似乎有一種隱含的心智模型,認為某種新的對抗性工具可用……因此我們將立即看到使用這些工具的犯罪行為。這是一種心智模型,你甚至不必考慮或進行任何實證調查來了解人類實際上在做什麼。」
Saxe 指出,某些攻擊者群體在將這些工具融入現有的工作流程和組織文化時可能會遇到阻力。
「這裡有整個人類和組織的元素,」他說。
「某些攻擊者群體可能會抓住這些新工具,或者採用的曲線可能相當緩慢。」有些人可能仍然透過網路釣魚或使用他們已有的漏洞利用程式來入侵網路,而另一些人則可能開始使用這些工具開發新的漏洞利用程式。
雖然採用率無法預測,但企業可以採取措施來應對即將到來的漏洞報告浪潮。
Luta Security 的創辦人兼執行長 Katie Moussouris 在一篇部落格文章中創造了「Vulnapalooza」一詞,並配有演唱會海報和節日生存指南,向安全團隊解釋這是公司加固其薄弱環節的時刻。對公司的建議與標準最佳實踐並無不同:分段、處理身份和存取管理、使用記憶體安全程式碼,以及使用抗網路釣魚的身份驗證和最新的軟體。
Cloud Security Alliance 發布了一份緊急策略簡報,介紹如何制定一個「Mythos 就緒」的安全計畫,其中詳細闡述了許多這些概念。該報告還強調,不僅要修補漏洞,還要確定優先級。
但與機器速度的威脅相匹配的需求是新的,漏洞報告的數量已經在飆升,這導致需要為更多事件做好準備,並以更快的速度進行緩解和遏制。
Moussouris 表示,由於 AI 的效率,許多從事網路安全工作的人員被裁員,儘管正是這些效率才使得更多人類需要留在這個領域。公司將需要人類威脅獵人、威脅情報官員和事件響應人員來應對湧入的新漏洞利用程式。他們還需要人員來決定優先級並實施哪些修補程式。
她說:「我們沒有可以自動化所有這些任務的 AI 防禦對等工具,我認為我們需要增加人力並僱用大量人員。」組織還需要建立安全的軟體和安全的網路架構,以避免陷入無休止的修補循環。「我們必須從一開始就建立更安全的軟體。我們無法透過事件響應來實現韌性。」
尚未準備好僱用人員的組織至少可以簡化其供應商的入職流程,以便在需要時更容易地引入人員或服務。Moussouris 說:「當你處於戰火之中,無法跟上修補程式的推出時,你不想陷入長達四個月的供應商採購流程。」
雖然許多人擔心漏洞,但 Moussouris 認為所謂的「漏洞末日」實際上將表現為「修補末日」。
她解釋說:「該模型已經識別了數千個漏洞,而這次協調工作即將帶來的修補程式浪潮,將是第一個主要的痛點。」
那些修補系統緩慢的組織可能會面臨嚴重的後果。等待太久,就有可能遭受針對 AI 發現的漏洞的主動攻擊,甚至可能使用由模型編寫的漏洞利用程式。
她解釋說:「從漏洞被宣布到漏洞利用程式碼可用之間的時間,現在幾乎縮短為零了,這是一個重大的調整,我認為人們必須在風險評估中考慮到這一點,以及他們可以花費多長時間來處理事情,以及他們為解決這個問題投入多少資源。」
利用 AI 加速修復或緩解過程是一個機會。Becker 表示,Theori 正在開發一款名為 Xint 的商業工具,該工具已在開源程式碼庫上運行,並透過發送詳細報告和修復建議,自行手動向維護者報告高嚴重性的發現,這既是社區加固專案,也是為了展示該工具的能力。Xint 的目前版本在掃描相同程式碼庫時,能夠找到 Mythos 所發現的所有漏洞。它還發現了 12 個額外的零日漏洞,這些漏洞並非 Anthropic 公布的內容。
但緩解這些漏洞的速度不會像發現它們那樣快,因為這需要對程式碼庫極為熟悉的工程師來判斷修補程式是否是解決問題的最佳方法,或者它們是否會使程式碼更難維護或更難理解。有時修補程式可以解決問題,但不是最佳解決方案,因此需要人類的時間和精力才能將解決方案推向終點。
報告的漏洞激增可能導致需要修補的項目積壓,尤其是對於開源維護者來說,他們可能無法跟上工作量。
雖然並非所有漏洞對攻擊者的工具包都有用,但要從中篩選出需要優先修補的漏洞,其難度幾乎與修補本身一樣。
Moussouris 說:「很多優先級的確定需要考慮情境。」例如,一個在內部運行但外部難以訪問的非常嚴重的漏洞,其優先級可能低於暴露在公司邊界上的不太嚴重的漏洞。
除了漏洞的優先級之外,組織還需要決定何時應用會限制功能甚至可能導致停機的修補程式,以及何時等待。他們擁有的安全控制措施越少,他們就需要越多的時間來進行修補。
僅僅發布一個修補程式,就會讓攻擊者更容易逆向工程漏洞修復,並利用尚未更新的設備上的漏洞。這意味著消費者也需要習慣更新他們的軟體,因為針對安全漏洞的關鍵修補程式將會急劇增加。組織將希望投資於安全的架構,以盡可能減少他們需要管理的修補程式數量。
「問題是,現在不做就永遠沒機會了。海嘯即將來臨。」
但正如 Moussouris 所說,這不必成為絕望的理由。「你不必把它看作是將發生的最糟糕的事情,」她告訴 The Verge。「你可以把它看作是我們加強防禦並獲得預算來做我們一直推遲的事情的機會。」
無論組織採取何種態度,他們都需要做好準備。風險更高,即使是腳本小子也有更多機會發現和利用漏洞。公司需要一個計畫來應對這種由 AI 驅動的新威脅。
Guido 說:「2026 年將是決定成敗的一年。」公司需要立即保護他們的系統,趁他們還有時間領先。「如果他們不這樣做,我們將在 2026 年底看到一切都陷入火海。」