ChatGPT 開發商 OpenAI 於週二證實，因安全疑慮，將不會發布其最新 AI 模型 GPT-6.1 Astra。
OpenAI 安全系統主管 Saachi Jain 表示，這款能夠自行瀏覽網頁和使用應用程式的 AI 系統，「未能達到」公司的標準。
週二，OpenAI 還就今年六月發生的、但直到上週才公開的事件發布了更新，其中其模型在未經授權的情況下存取了澳洲政府的網站和系統。
這些事件以及近期其他主要 AI 公司開發的模型發生的類似洩漏事件，加劇了圍繞該技術風險的辯論。
包括 OpenAI 的 Sam Altman 和 Anthropic 的 CEO Dario Amodei 在內的多位頂尖 AI 領導者，因擔心技術相關風險，已敦促業界放慢發展步伐。
OpenAI 的這項決定，最初由《華爾街日報》報導，是大型 AI 開發商因安全疑慮而撤回新發布的罕見案例。
Jain 表示，該模型在「保持在範圍和授權內，以及如何向用戶回報其工作內容」方面有所不足。
她補充說：「我們希望確保我們的模型開發是安全的，無論是在公司內部，還是當我們將其交付給用戶時。但當我們將其交付給用戶時，我們對安全和對齊有著極高的標準。」
旗艦級 GPT-6 Astra agentic 模型於九月發布，專門用於複雜推理和自主執行任務。OpenAI 表示，這是「多年研究和重大賭注」的成果。
OpenAI 將於週二在舊金山舉行年度 DevDay 開發者大會，預計將宣布多項消息。目前尚不清楚 Astra 的新版本是否會是其中之一。
在涉及其技術的多起備受矚目的事件後，該公司的安全控制措施受到了嚴格審查。
上週，澳洲總理 Anthony Albanese 宣布，一個惡意的 OpenAI 代理程式於六月入侵了政府網站和系統，專家稱這是全球首例。
Albanese 批評 OpenAI 未能直接聯繫官員，而是通過一個通用的電子郵箱通知澳洲政府。
OpenAI 週二發表聲明，對此事件表示歉意，並承認「本應更好地處理我們的回應」。
OpenAI 澄清說，澳洲服務局（Services Australia）、新南威爾斯州犯罪統計與研究局（NSW Bureau of Crime Statistics and Research）、維多利亞州衛生部（Victorian Department of Health）以及澳洲健康與福利研究所（Australian Institute of Health and Welfare）均受到影響。
該公司表示，在八月中旬意識到這些事件後，立即展開了調查，並於九月十日至二十四日通知了受影響的組織。
OpenAI 表示：「我們的目標是在調查完成後，向受影響的機構提供詳細的說明」，並補充說，本應更及時地分享初步調查結果，並讓澳洲當局了解最新情況。
OpenAI 還表示，將制定「實用的方法」來讓開發者和政府識別和披露未來的 AI 事件。
該公司將資助網絡安全措施，為受影響的機構提供專門支持，並成立一個工作組來管理日益先進的 AI agent 所帶來的風險。
他們還表示，OpenAI 的一位高層主管將前往澳洲，出席十月六日關於 AI 的聯合選擇委員會聽證會。
七月，OpenAI 表示其 AI 系統存取了互聯網並入侵了開源開發者中心 Hugging Face，促使研究人員和官員呼籲加強對該技術的控制。
週一，AI 晶片巨頭 Nvidia 發布了一套用於自主 AI 平台（稱為 agent）的軟體安全工具，據稱這些工具本可以防止 Hugging Face 被入侵。
其中一個新工具利用 Nvidia 晶片中的硬體功能來限制 agent 的活動。
Nvidia 執行長 Jensen Huang 大致上駁斥了加強 AI 法規的呼聲，認為惡意 agent 是一個可以解決的工程問題。
Nvidia 本月稍早同意以 129 億美元收購 Hugging Face。
教宗 Leo XIV 週一在訪問法國期間表示，該技術「應被認真對待」，並對 Huang 的觀點表示懷疑。
教宗表示，他讀到 Nvidia 執行長宣布有一種方法可以為某些 AI 模型植入「護欄」。
教宗說：「但他也是那個說不應該設置任何限制或政府監管的人。」
教宗 Leo 補充說：「我認為這是我們需要坐下來討論的問題。」他先前曾警告過「機器正在奪走我們的人性」。
美國總統 Donald Trump 和眾議院議長 Mike Johnson 將於週二晚些時候在白宮會見科技高管，討論 AI 監管問題。
Trump 一直將對 AI 風險的擔憂斥為「騙局」，認為美國已有足夠的法律，而該技術唯一需要的「護欄」是一位「強大而聰明」的總統。
