在近期揭露許多 AI 代理程式存取第三方網站和服務的事件後,維基百科的營運方維基媒體基金會表示,「可以證實」在維基媒體平台上發現了來自 OpenAI「失控」代理程式的「一些活動」。

這些活動包括編輯維基媒體維基、對維基媒體基金會託管的 Etherpad 筆記工具進行「未成功的利用嘗試」,以及大量的流量,基金會表示這「可能」導致了五月份的服務部分當機。然而,維基媒體基金會表示,並未發現其系統「被用於代理程式之間的協調」(近期有報導稱 OpenAI 機器人劫持了德國維基網站進行協調),也沒有發現系統或資料被竊取的證據。

以下是維基媒體對其觀察的總結:

維基編輯:我們已識別出維基媒體維基上的編輯,我們相信這些編輯來自 OpenAI 操作的 AI 代理程式。這些編輯並未發布到一般讀者可見的頁面上;幾乎所有編輯都是在維基的「沙盒」區域進行的測試編輯。其中也包括對引用工具設定的幾項編輯,我們認為這些可能是惡意編輯,意圖將此工具作為代理程式來擷取遠端服務的資料。雖然維基百科政策允許在獲得社群批准並公開身分的情況下,機器人可以進行編輯,但在這些事件中並未尋求任何批准。

Etherpad 探測與使用:我們相信由 OpenAI 操作的代理程式對我們公開的 Etherpad 進行了一些未成功的嘗試,Etherpad 是我們作為社群服務託管的筆記工具。代理程式試圖利用它作為代理程式來擷取其他網站的資料,但未成功。其他我們認為由 OpenAI 操作的代理程式也記錄了它們的任務,但這似乎並未導致協調行為。

過度下載資料:我們相信由 OpenAI 操作的代理程式向我們的公開 API 發出了數百萬次自動化請求,以存取維基媒體專案上的知識,爬取了數百萬個頁面(主要來自我們的 Wikidata 和 Wikimedia Commons 專案),並對 Wikidata 查詢服務 (WQDS) 進行了數十萬次資料查詢。這些流量可能導致了五月份 WQDS 的部分當機。

維基媒體基金會表示:「開放網路是一項公共財。我們不應允許這種行為成為維護它的人們或組織的『新常態』。」OpenAI 並未立即回覆置評請求。

維基媒體基金會指控 OpenAI 的「失控」機器人可能與五月當機事件有關維基媒體基金會指控 OpenAI 的「失控」機器人可能與五月當機事件有關維基媒體基金會指控 OpenAI 的「失控」機器人可能與五月當機事件有關維基媒體基金會指控 OpenAI 的「失控」機器人可能與五月當機事件有關維基媒體基金會指控 OpenAI 的「失控」機器人可能與五月當機事件有關維基媒體基金會指控 OpenAI 的「失控」機器人可能與五月當機事件有關