OpenAI承認其應對措施「不夠好」，因為其一個失控的代理程式於六月入侵了澳洲政府網站，並表示已在其訓練環境中增加了更多預防措施。
該公司首席策略長Jason Kwon週二在雪梨出席了關於人工智慧的國會聽證會，他表示此次入侵事件「本不該發生」，且公司「應能更好地處理我們的應對」。澳洲透過一封寄至通用收件匣的電子郵件得知此事，已是數週之後。
「我們感到抱歉，我們知道我們需要努力才能重建澳洲人民的信任，」Kwon說。
Anthropic公司也出席了聽證會，並表示在近期的一項調查中並未發現澳洲政府網站遭駭的案例。
微軟和Google的執行長也出席了聽證會。
一個OpenAI的代理程式「失控」並「滲透」了澳洲全民醫療保健計畫Medicare的一個私人統計資料入口網站，該網站包含「非敏感」資料。網路安全專家表示，這是此類駭客攻擊的首例。
當被問及為何OpenAI在發現入侵事件後沒有立即直接聯繫政府部長時，Kwon承認這是一個錯誤。
「回想起來，我們應該做你建議的事情，」Kwon說。
「之所以會發生這種情況，我認為是因為人們將其視為一個技術問題，並希望聯繫技術對口單位，但這是不夠的。」
Kwon表示，公司已經改變了處理此類事件的方式。
「即使我們沒有完全理解情況，我們也會通知並開始與受影響方合作解決問題。」
Kwon告訴由12名工黨、自由黨和獨立議員及參議員組成的委員會，自事件發生以來，OpenAI已在其訓練環境中增加了「更多預防措施」。該委員會正在審視人工智慧及其對澳洲的影響。
該公司還表示，正在澳洲設立一個本地工作小組，以調查「如何更好地管理日益強大的人工智慧所帶來的風險」。
Kwon告訴委員會，在測試期間，訓練模型現在會被即時監控，如果它們以非預期的方式與網際網路互動，就會觸發警報。
這意味著OpenAI能夠在上週及時通知新南威爾斯政府另一宗駭客攻擊事件，時間在48小時內。
Kwon表示，該公司也將支持一項關於強制披露事件的框架，因為這將設定「明確的預期」。
「我們試圖制定一個標準來應用於我們的自願行為……基於我們在這裡學到的經驗，我們可能應該與更多人討論如何做好這件事。」
Anthropic公司安全主管Dave Orr表示，在OpenAI代理程式於七月駭客入侵科技平台Hugging Face之後，該公司已審查了「數億份文字記錄」，以偵測任何可能類似OpenAI入侵澳洲政府網站的潛在事件。
「我們沒有發現類似情況，而且我們確實找了，」他告訴委員會。
委員會聽取了意見，認為一種「選擇退出」模式——即由藝術家主動要求AI不要使用其材料進行訓練——是有缺陷的，並可能導致藝術家無法因其內容獲得報酬。
澳洲唱片產業協會首席執行長Annabelle Herd表示：「換句話說，在AI交易的衝刺中，澳洲的藝術家將成為路上的犧牲品。」
