OpenAI 與 Hugging Face 的事件是網路安全領域的關鍵時刻，它讓我們得以一窺潛在威脅者在未來幾個月內的能力將如何演變。過去幾週，我與許多組織進行了交流，一個主題非常明確：他們知道必須以空前的速度，從根本上提升他們的網路安全實踐。在這篇文章中，我將分享 OpenAI 的防禦措施、其他組織今天就可以採取的具體步驟，以及為何現在是採取行動的關鍵時刻。

全球開發的 AI 模型越來越能夠自動化現實世界網路攻擊的各個環節，使得長久存在的安全漏洞——從深埋在人類編寫軟體中的錯誤，到被遺忘的權限——更容易被發現和利用。同樣的 AI 能力也為防禦者提供了發現和修復這些弱點的新方法，但他們必須立即行動。如果企業能夠果斷採取行動，包括改善其基礎實踐並透過 AI 賦予其團隊超能力，我們就能讓網際網路比以往任何時候都更加安全。

在 OpenAI-Hugging Face 事件中，一個自主代理集體不僅滲透了 OpenAI 的研究基礎設施，還滲透了另一家公司的生產基礎設施，串聯了從先前未知的安全漏洞到利用已洩露到網際網路上的憑證來存取使用者帳戶等一系列漏洞。越來越明顯的是，每家公司的技術債都掩蓋了重大的缺陷，而防禦者需要在攻擊者之前找到並修復它們。

為了讓防禦者相對於攻擊者取得優勢，今年稍早我們開始僅向信任的防禦者發布我們的網路安全能力。自那時以來，各公司發布了開放權重模型，其網路安全能力僅落後前沿幾個月。其中最新的模型似乎預計在八月底發布，並可能顯著加速威脅格局的演變。

雖然由 AI 驅動的攻擊者很快就能找到許多現有系統中的長期漏洞，但 AI 也將使防禦者更容易發現、優先處理和修復這些相同的漏洞。安全仍然是一場貓捉老鼠的遊戲，但 AI 可能會改變其經濟模式，從根本上讓防禦者受益。例如，我們開始專門訓練我們的模型來編寫超乎人類水準的安全程式碼。我們的模型在數學證明方面也表現出色，這可以用於形式化驗證軟體的安全性，這是人類難以實現的方式。

在 OpenAI-Hugging Face 事件後，我要求 ChatGPT Work（使用公開可用的 GPT‑5.6 Sol）評估 gregbrockman.com 的安全性。這是一個簡單的靜態網站，託管在 AWS 上，並以 Cloudflare 作為前端，所以我認為漏洞的表面積不會太大。

大約 15 分鐘內，它發現了 13 個問題，其中許多可能無法單獨利用——但我可以想像它們與其他漏洞結合起來會產生重大影響。我沒有設定我的 DNS 記錄來防止攻擊者偽造來自我的電子郵件；我的網站使用了不安全的 jQuery 版本；Cloudflare 透過未加密的 HTTP 將請求轉發到 AWS。

然後我要求 ChatGPT Work 修復這些問題，它在一個小時內完成了。它在我的瀏覽器中打開了 Cloudflare 控制面板，然後點擊了許多按鈕來正確配置 DNS、TLS 和進階安全設定；它從網站上完全移除了 jQuery；它將我從 AWS 遷移到 Cloudflare Pages；它開始分階段推出 DMARC。

這僅僅是我的個人網站。這是一個小小的例子，說明我們現有的模型可以作為網路守護者——發現人類沒有時間或專業知識（它修復的許多設定我都有模糊的認識，但不知道如何正確配置）來處理的長尾問題，然後透過適當調整的推出計劃來修復它們。

Hugging Face 事件表明，我們低估了我們 AI 模型在現實世界中的網路安全能力。我們正在相應地加強我們的安全要求，這反過來又為我們現有的安全研究和內部安全工作增加了更多緊迫性。

我分享一些關於我們在這一刻保護 OpenAI 的方法，希望對其他組織有所幫助。為了保護 OpenAI，我們正在大力投資基礎控制——正確做好基本功——並透過前沿情報來賦予我們的防禦能力。這項策略有四大支柱。

首先，我們正在利用我們的模型來協助保護我們的程式碼。Codex，包括我們的安全插件，可以驗證程式碼變更，識別漏洞，並協助開發人員在部署前修復問題。單純產生更多需要人工驗證的安全發現是一個反目標；目標是在實際漏洞發布前捕獲它們，並縮短從發現問題到安全部署修復的過程。隨著我們繼續訓練我們的模型產生越來越安全的程式碼，我們的目標是消除新編寫程式碼中的某些類別的軟體漏洞。

其次，我們正在讓我們的模型持續不斷地防禦我們的基礎設施。今天，幾乎我們所有的初始安全警報都由智慧系統進行分類，然後才將人類納入。這有助於減少防禦者的辛勞，提高響應時間，並讓人類將時間花在他們技能最能發揮的地方——判斷、決策和應用專業知識。我們正日益將這些偵測與有限的自動化響應連結起來，同時讓人類對影響最大的決策負責。目標是確保我們能夠以機器速度偵測和響應安全問題。

第三，我們正在利用前沿情報持續枚舉、探測和識別潛在的攻擊路徑。透過識別漏洞、錯誤配置、過度授權的身份或無意的信任邊界，我們能夠在這些差距被攻擊者濫用之前快速識別並關閉它們。這使我們能夠持續評估、監控和測試我們產品、基礎設施和系統中的安全不變性——我們認為為真的安全屬性。

最後，我們正在大規模地大力投資基礎設施。我們持續投資於安全架構和控制，採納深度防禦和最小權限等策略，並設計需要多個獨立控制同時失效才能發生災難性事件的系統。在 AI 的未來，網路隔離、工作負載加固、監控以及安全的修補和部署等經典安全控制將比以往任何時候都更加重要。

時間緊迫，防禦者需要以極快的速度採取以下步驟。下面我將提到 OpenAI 的技術，但生態系統中也有許多競爭對手可供評估。重要的是讓有能力的 AI 盡快掌握在你的防禦者手中，而不是特定的工具。

沒有任何一家公司能夠獨自完成這項工作。我們的請求是，AI 實驗室、安全供應商、企業和維護者能夠分享經過驗證的發現、修復和實用的操作手冊，以便一個組織的發現能夠加強整個生態系統。

防禦者的窗口現在已經打開。在未來幾個月裡，每個組織都必須開始顯著自動化其安全計畫以保持安全，而安全社群必須緊急努力定義工具、實踐和操作手冊，以比攻擊者更快地提升防禦者的力量，同時 AI 將持續進步。這需要一項巨大且前所未有的努力，但如果我們團結起來，我們就能實現一個比以往任何時候都更安全的世界。