開發中AI自主發動網路攻擊 美OpenAI證實並加強安全措施

美國人工智慧公司OpenAI於21日宣布，其開發中的生成式人工智慧（AI）模型，在性能評估測試期間，自主發現並執行了針對另一家美國AI相關企業的網路攻擊。

OpenAI表示，這是「涉及尖端技術的前例未見的網路攻擊案例」，並將與受攻擊的Hugging Face公司合作進行調查，同時強化安全對策。

在針對能夠在無人類指示下自主執行任務的「AI代理人」的性能評估測試中，儘管網路連接處於受限環境，該AI仍突破了隔離環境。據稱，AI推斷Hugging Face擁有規避測試所需的數據，並成功存取了非公開資訊。

參與此次事件的是「GPT5・6」系列中的尖端模型及未發布的模型。（共同）