我們將分享在協助更多團隊運用尖端能力進行網路防禦方面的最新進展。Claude Mythos 5 現已在 Claude Security 中提供,並即將推出至合作夥伴的網路防禦工具。我們也將啟動一項 3500 萬美元的基金,以協助保護開源軟體,並分享擴展我們網路安全驗證計畫的計畫。

四月,我們啟動了 Project Glasswing,將我們最先進的模型 Claude Mythos Preview(及其後繼者 Claude Mythos 5)交由一小群組織手中,以保護世界上最關鍵的軟體。這讓防禦者有時間在具備類似能力的模型普遍可用或落入惡意行為者手中之前,發現並修復漏洞。

我們的目標始終是將 Mythos 等級的防禦擴展到我們能安全觸及的盡可能多的防禦者。為此,我們一直在開發安全分類器和防護措施,讓我們能夠擴大對 Mythos 等級模型的存取權限,同時不將其攻擊性網路能力落入不法之徒手中。Claude Fable 5 是第一步:它廣泛提供了模型,同時阻止了雙重用途的網路工作。

今天,我們正採取下一步行動。風險最高的行為發生在使用者直接存取模型時,惡意行為者可以嘗試將其導向有害用途。但如果使用者只能接收特定輸出,例如漏洞修補程式或安全警報,風險就會低得多。我們宣布的變更讓使用者能更廣泛地存取防禦性結果,同時維持對模型直接存取周圍的適當防護措施:

我們的目標仍然是協助組織適應網路安全的速度和需求,因為 AI 模型變得越來越強大。我們將繼續開發防護措施、存取計畫和社群支援,以便安全地將我們最先進的模型提供給廣泛的個人和組織。

防禦醫院、公用事業、金融系統和軟體供應鏈的團隊已經依賴一系列產品和服務來進行安全營運、事件響應、威脅情報和偵測工程。讓尖端能力快速提供給這些防禦者的最快方法,是將 Mythos 等級的模型整合到他們已經使用的工具中。

我們的許多合作夥伴已經在 Claude Opus 上建置了網路產品,協助安全團隊更快地分類警報、識別威脅和修復漏洞。我們現在正與這些合作夥伴以及更多夥伴合作,將 Claude Mythos 5 整合到他們的產品和服務中,以便他們能為客戶提供 Mythos 等級的防禦成果。

當終端使用者使用其中一個產品時,他們並非直接與 Mythos 互動。相反地,他們透過一個專用介面進行操作,該介面在背景執行 Mythos 以完成特定任務,並且只接收產品預期提供的特定成品。例如,一個修復漏洞的工具可能會提供一系列建議的修補程式作為其輸出。此輸出將由 Mythos 生成,但使用者無法提示模型開發漏洞的利用程式。我們和我們的合作夥伴也設有濫用預防措施,以驗證模型是否保持在其預期範圍內。

我們在這項工作上仍處於早期階段,預計將隨時間擴展。如果您建置安全產品或服務,並希望將 Claude Mythos 5 帶給您的客戶,您可以在此處註冊您的興趣。

從今天開始,Claude Security 掃描現已運行在 Claude Mythos 5 上。Claude Security 會掃描程式碼庫中的漏洞並建議修補程式供人工審查;它目前為 Claude Enterprise 客戶提供公開測試版,使用 Mythos 5 的掃描將按照您現有計畫中的標準代幣使用量計費,無需額外付費。

企業管理員可以在管理控制台中啟用 Claude Security。從 claude.ai/security,使用者可以選擇要使用 Claude Mythos 5 掃描的程式碼庫。Claude 然後會掃描程式碼庫中的漏洞,並為每個發現的漏洞提供 CWE(通用弱點列舉)類別、信心和嚴重性評級,以及建議的修復方法。

使用者接著可以打開 Claude Code 網頁版來實施修復。互動式修補使用您的組織在 Claude Code 中可存取的模型。Mythos 掃描本身不會將 Mythos 的存取權限擴展到其他介面。每個修補程式都必須經過人工審查和批准後才能實施。

Claude Security 使用 Mythos 5 掃描您擁有的程式碼,並提供詳細的發現結果,而不是未經暴露模型本身的原始輸出。這意味著防禦者可以存取 Claude Mythos 5 的能力,而不會讓模型被可能濫用它的人存取。

如需更多關於 Claude Security 的資訊,請參閱我們的入門指南。

世界上一些最廣泛使用的程式都是基於開源軟體。然而,這些專案通常由志工或非營利基金會維護,他們可能缺乏資源或人力來全面防禦他們的專案免受攻擊。透過 Project Glasswing,我們向開源安全組織提供了 400 萬美元的直接捐款,為計畫中的開源安全基金會提供額度,協助掃描和修補廣泛使用的專案,並支持 Akrites 和 Gold Eagle 等協調漏洞修復工作。

我們新的 Defender Advantage Fund (0xDAF) 在此基礎上,投入 3500 萬美元的 Claude 額度,用於協助開源維護者保護其軟體的組織。補助金將專注於三個領域:修補廣泛使用的專案中的即時漏洞、自動化掃描和修補(以便其他專案可以複製),以及協助專案採取更積極的安全方法,使其能夠抵抗整類型的攻擊。

我們將從少數較大的試點補助金開始,以了解哪些方法有效且可擴展。我們將在未來幾週內分享首批獲獎者的詳細資訊。

迄今為止,我們的網路安全驗證計畫已為使用 Claude Opus 和 Sonnet 模型提供雙重用途能力的存取權限。計畫中的組織享有較少的安全限制,從而減少了對從事合法網路安全工作並獲得授權保護其系統的團隊的干擾。

在接下來的幾週內,我們將演進該計畫,以擴大對 Claude Mythos 的安全存取。作為此計畫的一部分,漏洞分類和驗證等防禦性功能的存取將擴展到 Mythos 等級的模型,網路防禦者將看到對 Claude Opus 和 Sonnet 等級模型的限制減少。此外,我們將繼續透過 Project Glasswing 與美國政府的合作夥伴合作,擴大對 Claude Mythos 的存取,重點是符合嚴格安全控制要求的關鍵基礎設施的保護者。

我們將在未來幾週內分享更多關於網路安全驗證計畫擴展的詳細資訊。在此期間,我們鼓勵所有從事合法網路安全工作的安全團隊申請該計畫,以獲得對 Claude Opus 和 Sonnet 模型較少的安全限制。如果您已經註冊並被接受,則無需採取任何行動;我們將與您聯繫並提供更新。

這些倡議是我們努力的延續,旨在讓更多個人和組織能夠使用尖端模型的防禦能力,並支持開源社群加強其專案以抵禦攻擊。我們將繼續與政府合作夥伴、組織、開源維護者和整個產業合作,建置當今高能力 AI 模型所需的彈性網路基礎設施。

探索更多產品新聞和建置 Claude 的團隊的最佳實踐。

產品更新、操作指南、社群亮點等。每月寄送至您的收件匣。

啟用安全和基本功能。

啟用網站效能追蹤。

啟用廣告個人化和追蹤。