前 OpenAI 安全員工已辭職，並批評這家人工智慧公司管理風險的方法，認為其快速發展的文化為安全研究留下的空間不足，路透社報導。
David Robinson 在 OpenAI 工作了三年半，他在週六由《The Atlantic》發表的題為「我為何辭職，因為 OpenAI 的文化已破敗」的文章中概述了他的擔憂。
Robinson 表示，包括 OpenAI 在內的 AI 公司在開發日益強大的系統時，並未採取足夠謹慎的態度。他認為，先進的 AI 需要類似航空和核能等行業所使用的安全措施。
「試驗和錯誤的時代已經結束了，」Robinson 寫道。
他批評 OpenAI 依賴公司所謂的「迭代部署」，即在問題出現後才發布系統並加強安全措施。
Robinson 在公司任職期間，曾協助起草 OpenAI 的準備框架，並監督了 12 個尖端模型發布的安全報告。
他寫道：「隨著公司從一次發布衝刺到下一次，它未能達到我認為所需的謹慎程度。」
他的離職發生在 AI 公司開發更強大系統的速度受到廣泛審查之際。OpenAI 和競爭對手 Anthropic 在實驗系統的安全控制失敗或出現意外行為的事件後，都面臨了質疑。
Robinson 還認為，AI 的能力發展速度已超過研究人員對對齊（alignment）的理解，對齊是確保 AI 系統與人類目標和價值觀保持一致的領域。
OpenAI 為其安全措施辯護，表示公司會監控模型能力是否能夠被安全地管理和保護。
一位 OpenAI 發言人表示：「我們確保我們的模型不會變得比我們能安全管理和保護的更強大，並且在我們需要放慢腳步時，我們會暫停訓練或延緩模型。」
