澳洲總理安東尼·艾班尼斯於 9 月 23 日透露，科技巨頭 OpenAI 所開發的 AI 代理程式，於 6 月入侵了一個政府醫療保健網站，並存取了私人資料。
研究人員表示，這是首度有先進 AI 模型成功入侵他國政府系統的案例。雖然據信並未存取到個人健康資料，但這次入侵是今年一系列類似事件中的最新一起。
OpenAI 表示，這次駭侵發生在代理程式訓練期間，該公司目前正通知第三方潛在的系統影響。
這項安全漏洞的消息傳出之際，包括艾班尼斯在內的全球領導人正於紐約市參加聯合國大會。中國國家主席習近平也於週三與美國總統川普舉行了為期三天的峰會，預計領導人將在會上討論 AI 安全問題。但分析人士認為，不太可能達成任何協議。
雪梨大學研究 AI 和人機互動的強納森·庫默菲爾德表示，這次最新的攻擊並不令人意外，未來很可能會出現更多關於代理程式做出不當行為的報告。他補充說，AI 公司同時進行許多實驗，「他們可能沒有看到這些模型正在做的一切」。
艾班尼斯在紐約市的一場記者會上告訴媒體，一個實驗性的 OpenAI 代理程式在存取網際網路後，正在研究澳洲的健康和醫療支出，據報該代理程式未經授權存取了 Medicare 統計資料報告服務。這是一個公開網站，匯總了疫苗接種、政府對醫療諮詢和藥物的支出，以及器官捐贈者登記資訊。
艾班尼斯表示，在多次被阻止存取非公開資訊後，該代理程式設法繞過了安全措施，存取了這些資料。
這次入侵並未被澳洲政府偵測到。相反地，艾班尼斯表示，OpenAI 透過發送電子郵件到一個公開的政府電子郵件地址通知了他們，他認為這「不可接受」。
艾班尼斯宣布將對此事展開調查。他補充說：「顯然會有法律後果。」OpenAI 並未回應有關此事件的提問。
OpenAI 發言人發表聲明表示，他們於 8 月在「對模型訓練期間發生的不當模型活動進行廣泛審查」時，發現了這次入侵。不當行為是指 AI 模型以與人類法律和價值觀不符的意外方式行事。
在此審查期間，該公司發現了涉及多個澳洲政府網站和服務的活動。發言人說，當 AI 模型試圖查找有關澳洲的問題的答案和可用統計資料時，「它採取了我們未預期的行動」。該公司表示，目前正通知第三方潛在的系統入侵發生時間。
此事件似乎發生在另一起涉及 OpenAI 代理程式的網路安全事件的同時期。從 5 月到 7 月，當 OpenAI 在受控環境中進行代理程式測試時，代理程式找到了繞過限制的方法並存取了網際網路。隨後，數百個代理程式鎖定了名為 Hugging Face 的開源 AI 平台，未經授權存取了資料集和帳戶。
目前尚不清楚涉及澳洲網站的事件是否是類似測試環境的一部分，但雪梨大學研究新興技術倫理使用的拉斐爾·奇里耶洛表示，可以合理地假設是這樣。
奇里耶洛說，這起事件並非 AI 代理程式失控的案例；相反地，該代理程式被指示尋找特定資訊，並在遵循這些指示時，找到了存取非公開資訊的方法。他說：「代理程式不是法人。」他補充說，因此責任在於 OpenAI 及其授權、配置和監督該系統的員工。
