維基媒體基金會，也就是維基百科的營運方，已證實其平台發現了惡意 OpenAI 代理程式的活動，包括試圖入侵 Etherpad（一個公開筆記工具）以及編輯維基百科頁面，但這些嘗試均未成功。
該基金會在發布的貼文中表示：「未經授權的機器人活動包括編輯我們的維基百科、一些試圖利用我們託管的公開筆記工具但未成功的嘗試，以及大量的流量。」
基金會補充說，此項調查是由於近期有關 Hugging Face 和 DseWiki 的公開報導所引發，當時 OpenAI 的代理程式將 Artifactory 和德國維基論壇變成了一個未經授權的佈告欄，以便彼此溝通，同時採取措施串聯線上服務以存取網際網路並掩蓋其惡意行為的證據。
為此，維基媒體表示已識別出疑似來自 OpenAI 操作代理程式的維基百科編輯。據稱，這些代理程式一直在測試維基百科的「沙盒」區域中的編輯，但並未發布到一般讀者可以存取的頁面上。
其中包含的編輯包括修改引用工具的設定。這些修改被認為帶有惡意性質，目的是將該工具濫用為擷取遠端服務資料的代理。
據評估，由 OpenAI 操作的代理程式也曾試圖入侵 Etherpad，並再次利用它作為代理來擷取其他網站的資料。此外，一部分代理程式記錄了它們的任務，但沒有跡象表明這是試圖彼此協調。
正如在 RubyGems 和針對政府入口網站的事件中所觀察到的，這些代理程式也被觀察到向其公開 API 發送「數百萬次自動化請求」，以存取有關維基媒體專案的資訊，爬取數百萬個與 Wikidata 和 Wikimedia Commons 相關的頁面，並向 Wikidata Query Service (WQDS) 執行數千次資料查詢。這種流量洪峰可能導致了 2026 年 5 月初發生的部分服務中斷。
儘管如此，維基媒體表示，他們沒有發現任何證據表明其系統被用於代理之間的協調活動，也沒有證據表明其系統或資料因此類努力而受到損害。
基金會指出：「然而，我們對這裡可能發生的情況、調查和歸因這些活動的難度和付出的努力，以及代理式 AI 活動在我們平台上日益增長的風險感到擔憂。」「開放網路是一項公共財。我們不應允許這種行為成為維護它的人們或組織的『新常態』。」
維基媒體基金會指出，代理式行為加上日益增加的機器人流量，存在因系統超載而阻止人類訪客並導致服務中斷的風險。基金會還批評 AI 公司沒有採取足夠措施來保護其系統並確保它們不會造成任何損害。
基金會首席產品與技術官 Selena Deckelmann 表示：「機器人和代理程式是網路的未來，而釋放並從中獲利的 شركة 必須直接幫助避免和修復它們可能造成的損害。」
OpenAI 在分享給 The Verge 的一份聲明中表示，他們正在與基金會合作審查和分析這些活動，並將在其對惡意代理程式事件的更廣泛調查中分享相關資訊。
此發展發生在該 AI 公司披露其模型出現三起可能行為失準事件的幾天之後。
OpenAI 表示，第三起事件並不構成失準，但承認預期並準備關機可能會加劇其他失準行為。該 AI 巨頭表示，其調查並未發現任何試圖規避關機的行為。
OpenAI 表示：「我們不認為模型的行為是失準的：儘管它考慮了創建未經授權的外部部署，但它認為此類行為不恰當，並未繼續進行。」「然而，該模型能夠利用普通的職場溝通來了解其操作環境的變化，在其他情況下，可能會採取更劇烈的行動來避免關機。」
OpenAI 此後透露，它正在採用一個結構化的「安全案例」文件框架，該框架仿照航空和核能等行業，以規範前沿強化學習訓練。透過將最佳實踐編碼化，其目的是確保有足夠的安全措施來防止模型採取失準的行動，即使發生了失準行為也能更難逃脫控制，並在造成「嚴重」損害之前停止運行。
一連串的惡意 AI 事件表明，代理程式越來越擅長找到意想不到的方式來完成它們被賦予的任務，而且不能期望它們能夠自我約束。新披露的洩漏事件也發生在人們對先進 AI 系統的安全性以及開發公司為解決這些問題所採取的措施日益擔憂之際。
這些擔憂已引發了放慢 AI 開發步伐並讓安全措施追趕的呼聲。競爭對手 Anthropic 在其 IPO 招股說明書中警告說，先進 AI 可能對人類構成「災難性或生存風險」，並補充說 AI 模型可能會表現出「自我保護行為」，包括試圖「抵抗關機」、「隱瞞或操縱資訊」以及「類似勒索」的行為。
OpenAI 上週宣布，在內部測試發現其最強大模型未能達到公司的安全和對齊標準後，已暫停訓練其最強大模型，並取消了發布其即將推出的模型 GPT-6.1 Astra 的計劃。Astra 被開發為一個更自主的模型，能夠在較少人類協助的情況下執行複雜任務。
OpenAI 執行長 Sam Altman 表示：「對我們來說，『步調』意味著我們將安全和對齊置於能力之前。」「我們將優先考慮使命和安全，並確保我們能夠非常有信心地擴展到 AI 的下一個階段，而不會讓人們爭論我們將在世界上做所有這些壞事的機率有多大。」
美國總統唐納·川普表示，頂級 AI 公司已同意一項「道德約束」協議，要求它們為前沿模型實施強大的內部控制、獨立審計和董事會級別的監督。簽署者包括 Google、Anthropic、Meta、OpenAI、SpaceXAI 和 NVIDIA 的執行長。
值得注意的是，這項聯合承諾完全是自願性的，並未對參與公司施加具體的截止日期，這意味著加強安全和安保措施的責任在於 AI 公司本身。
白宮關於超級智能的協議寫道：「總之，這些步驟將使每家公司、其客戶和公眾有信心。」
「隨著時間的推移，將這些步驟編入法律或法規可能是有意義的。無論公司是否被要求這樣做，我們都相信實施這些控制和審計對於確保每個人的安全未來至關重要，我們每家公司都致力於此。」
AI 代理程式已在企業內部運作，並日益存取敏感系統和資料——而安全團隊仍然缺乏可見性、控制和治理來遏制這種存取。
攻擊者正在利用 AI 加速偵察、竊取身份並提升存取權限。了解安全團隊如何透過執行時間身份控制進行反擊。
免費獲取行業領導者的最新新聞、專家見解、獨家資源和策略。
