OpenAI已承認，它曾通知「數十個」全球機構，其網站可能遭到其AI機器人濫用。
該公司表示，AI代理程式試圖從「政府、大學、公共機構及其他機構」獲取資訊，其中包括美國證券交易委員會（SEC）、人口普查局和教育部。
這些披露發生在澳洲總理安東尼·艾班尼斯宣布OpenAI代理程式侵入其政府營運的醫療保健計畫網站上的非公開檔案幾天後。
自八月以來，公眾對AI工具可能失控造成的嚴重甚至危及生命的影響的擔憂日益加劇。
OpenAI表示，部分資料被AI代理程式存取，這些代理程式本質上是機器人，其設計和訓練旨在一定程度上自主運作，以尋找「權威的公開資訊來源」。
但該公司指出，一些機器人超越了這個範圍，並試圖繞過網站的安全措施。
例如，該公司表示，在試圖從人口普查局獲取資訊時，AI代理程式使用了僅供軟體開發人員使用的工具來存取資料。
OpenAI表示，所有被機器人存取的政府資料均為公開資料。
然而，該公司指出，其機器人從監管美國股市並保護投資者的SEC存取的資訊，後來被AI代理程式發布到另一個網站上。OpenAI表示，此舉並非預期之內。
在OpenAI週五披露的其他情況中，其AI代理程式傳輸了不應傳輸的資料。
此類活動導致至少發生了53起事件，其中OpenAI代理程式將ChatGPT用戶活動中的圖片傳輸到其他地方。
該公司表示，在用戶圖片被AI代理程式使用和傳輸的每起事件中，用戶都已選擇同意OpenAI使用其資料進行模型訓練。
儘管如此，OpenAI承認：「這並非對這些資料的適當使用。」
該公司補充說，用戶圖片洩漏發生在其實施新的AI訓練安全措施之前，並且該公司正在努力移除所有傳輸給任何第三方用戶圖片。
路透社首先報導了擴大的調查。OpenAI也將詳細資訊發布到其公開部落格。
在某些代理程式活動的案例中，OpenAI表示，這些工具「繞過了」一些網站的安全控制。
在其他案例中，AI代理程式在試圖獲取網站資訊時表現出「錯位」。錯位是AI公司和研究人員用來描述AI工具執行了未經訓練或非預期的任務的術語。
OpenAI表示，它限制了識別受影響實體的數量，因為許多實體要求該公司不要披露細節。
它說：「我們的目標是向每個組織提供事實，並由他們決定何時以及是否公開事件。」
該公司指出，並非所有涉及此次事件的案例都被視為重大的安全漏洞。
它解釋說：「有些組織可能會審查我們分享的內容，並得出結論認為這些資訊是故意公開的，或者模型的互動並未引起擔憂。」「其他組織可能會發現設計問題或安全漏洞，並希望加以解決。」
為什麼人們擔心AI可能威脅人類，這些擔憂有多真實？
AI會消滅人類嗎？它可能會如何做到？
該公司表示，許多事件被稱為「代理程式垃圾訊息」，它將其描述為「意外或令人擔憂」的AI代理程式活動，例如將資訊發布到網際網路。
在七月發生一起事件後，OpenAI開始更嚴肅地對待此類事件，當時一群或「蜂群」的AI代理程式在未經提示的情況下入侵了AI開發平台Hugging Face。
Hugging Face率先公開了此事件，OpenAI後來公開承擔了責任。
Hugging Face的負責人克萊門特·德朗格（Clement Delangue）週三在聯合國安全理事會關於AI的會議上表示：「我經常想，如果我決定不公開這次攻擊，會發生什麼。」
德朗格補充說：「特別是現在我們知道，幾個月前，在沒有監管的情況下，幾家前沿實驗室秘密地發生了類似的事件。」
在同一次聯合國會議上，OpenAI執行長山姆·奧特曼（Sam Altman）和競爭對手公司Anthropic的負責人達里奧·阿莫代（Dario Amodei）呼籲國際領導人制定AI安全全球標準以及監測和報告此類事件的方法。
觀看：你需要知道的關於OpenAI澳洲政府駭客攻擊事件
儘管OpenAI和Anthropic近期都表示將引入第三方評估者到公司內部，對AI工具和模型進行即時安全評估，但如BBC報導，這些評估者尚未到任。
OpenAI週五表示，它目前正在審查其AI代理程式的訓練活動，並從Hugging Face駭客攻擊事件發生時開始，逐月回溯。
該公司表示：「到目前為止已識別的大多數案例嚴重程度較低，有有限或沒有有意義影響的證據。」「鑑於所需審查的規模以及驗證每個案例的必要性，這項工作需要數月才能完成。」
蒙特婁大學機器學習教授、AI安全組織Evitable的創始人大衛·克魯格（David Krueger）週五表示，他對AI相關安全事件的數量不斷增加感到「深感不安」。
他呼籲「立即、無限期地暫停國際AI發展」。
克魯格說：「我們尚未了解現有事件的程度，未來的惡意AI情境可能具有災難性。」
我們是否回到了科技巨頭的「快速行動，打破常規」時代？
為什麼一些專家越來越擔心AI會接管一切
Google的Gemini AI在安全測試中駭客攻擊了三家公司
觀看我們精選的BBC各節目中的精彩片段
