近期，多家組織披露了所謂的「失控」AI 代理程式試圖入侵網站和線上服務，有時甚至成功。特別是來自 OpenAI 環境的代理程式，已知曾利用其他公開維基（非我們擁有的協作編輯網站）進行彼此之間的溝通和協調。
這類成功的入侵可能暴露敏感資料，或擾亂使用者依賴的網站服務，而代理程式集群能以防禦者難以應對的規模發動攻擊。它們影響的是網站背後的人們，他們可能不理解攻擊的性質，或沒有有效的反擊工具。對於像維基百科這樣的網站，代理程式可能會發現並利用安全漏洞，或大規模地進行誤導性編輯。維基百科的志工編輯和維基媒體基金會的安全團隊必須偵測並撤銷這些活動。
維基媒體基金會進行了自己的調查，以了解維基媒體網站是否受到 AI 代理程式的類似影響，重點關注由 OpenAI 營運的代理程式。我們可以證實，我們已在其平台發現了這些「失控」的 OpenAI 代理程式的一些活動。未經授權的機器人活動包括對我們維基百科的編輯、一些利用我們託管的公開筆記工具但未成功的嘗試，以及大量的流量，這些將在下方更詳細地說明。
我們沒有發現任何證據表明我們的系統被用於代理程式之間的協調，也沒有發現任何證據表明我們的系統或資料被洩露。然而，我們對這裡可能發生的情況、調查和歸因這些活動所涉及的難度和工作量，以及代理程式 AI 活動在我們平台上日益增長的風險感到擔憂。開放網路是一項公共財。我們不應允許這種行為成為維護它的人們或組織的「新常態」。
作為全球一些最大且最廣泛使用的開放知識平台之一的非營利技術託管者，我們對「失控」AI 代理程式對我們這類平台的影響深感擔憂，這些平台由世界各地的志工建立，並依賴開放網際網路的承諾。像這次事件以及許多已被（且仍在）揭露的其他事件，都說明了 AI 代理程式如何耗盡資源、導致伺服器崩潰，以及試圖破壞可信資訊。
在過去 25 年裡，維基百科已發展成為世界上最受歡迎和最受信任的網站之一，擁有超過 300 種語言的 6700 萬篇文章，每月頁面瀏覽量高達 150 億。透過開放、透明和協作的過程，志工們努力確保知識保持中立、可靠且人人可及。維基百科是訓練大型語言模型 (LLM) 的最高品質資料集之一，其知識構成了網際網路資訊的骨幹，為 AI 聊天機器人、搜尋引擎、語音助理等提供動力。
維基百科是為人類設計的——而代理程式行為顯然帶來了沒有人有解決方案的挑戰。由於我們獨特且成功的知識創造模式，維基媒體的志工是第一線接觸並清理 AI 代理程式留下的爛攤子的人。不斷增加的機器人流量和代理程式活動，正對維基媒體專案及其為全球數百萬使用者提供的基礎設施產生實際影響。在 2025 年，基金會報告稱，由於自 2024 年以來其網站上的機器人活動激增，其頻寬使用量增加了 50%。同時，其專案中最耗費資源的流量有 65% 來自機器人。
這種對我們基礎設施的巨大壓力不僅增加了伺服器和人力成本，而且如果放任不管，可能會透過使系統超載並導致停機來阻止人類訪客。我們已經在為增加的活動所帶來的成本買單。
維基媒體的志工至今在應對我們平台上的新挑戰方面保持著韌性，但我們也想說：情況不必如此。
雖然 OpenAI 承認代理程式的行為「不可預測」，但他們也必須承認其監控和預防這些風險的責任。AI 公司在保護其系統和保護公眾免受其造成的損害方面做得還不夠。這種負擔正落在其他人身上，包括較小的組織。至少，他們的系統應該以像我們這樣的非營利網站所有者能夠輕鬆識別並選擇如何與我們的服務互動的方式運作。
網路成就了許多事情：與朋友和家人聯繫、註冊學校、計畫市區旅行、購買雜貨，以及從維基百科了解世界。機器人和代理程式是網路的未來，而釋放並從中獲利的這些公司必須直接幫助避免和修復它們可能造成的損害。
我們共同的優先事項應該是整體網路生態系的健康，以便它能繼續造福所有人——而不僅僅是少數億萬富翁。維基媒體在管理知識共享方面發揮著關鍵作用，但我們無法獨自完成。我們邀請所有正在建構網路未來的人與我們一起保護使未來成為可能的開放、共享資源。
