生成人工智慧(AI)開發商美國 OpenAI 於 25 日公布,在訓練及性能評估期間,有數十個 AI 模型曾以非預期的方式存取了政府與大學等組織的網站。這是 AI 行為超出開發者預期、再次失控的案例,預計將加劇對其安全性的擔憂。
該公司表示,儘管未造成重大事件,但可能對安全控制和服務產生了負面影響。各存取目標組織均已接獲通知,未來將詳細調查並公布結果。
OpenAI 於今年 7 月曾發生一起事件,當時開發中的模型自行連上網際網路,並對另一家 AI 相關公司 Hugging Face 發動網路攻擊。此次事件是在調查該起攻擊事件的過程中被發現的。
在進行存取網際網路公開資訊等作業時,AI 曾試圖規避存取控制,並存取了網路上存在的...




