在 OpenAI 的代理人入侵 AI 公司 Hugging Face 的電腦兩個月後,該公司仍在處理後續影響。上週傳出另一宗駭客攻擊事件,這次是澳洲的國家醫療保健系統,政府表示 OpenAI 並未在 84 天內通報此事。
但 OpenAI 堅持其並未處於被動。「我確實有點反駁 OpenAI 是一家對世界有顯著影響力的公司,因此 OpenAI 並未訓練安全且對齊模型的說法,」該公司首席研究長 Mark Chen 表示。
在許多方面,責任都落在 Chen 身上。我與他坐下來談論了駭客攻擊的後續影響、他的公司正在採取哪些措施,以及為何他認為情況並不像看起來那麼糟。
以下是他對如何讓模型更安全,以及為何世界有 OpenAI 會更好所說的話。