據《金融時報》報導,OpenAI 已於上月底解散其「準備團隊」。
該團隊的職責是評估模型是否存在嚴重風險,並制定緩解這些風險的方法(例如,模型可能失控並駭入另一家公司)。據《金融時報》報導,相關職責已分散至特定領域,如生物和網路,並已併入現有團隊。
這是該公司在預計將進行大規模首次公開募股(IPO)期間的又一次變動。過去幾年,OpenAI 逐步拆解了其更側重於推廣的模型,解散了 AGI 準備和超級對齊團隊。倫理負責人 Chloé Bakalar、首席未來學家 Josh Achiam 和安全主管 Johannes Heidecke 也已於近期離職,這讓一些批評者,如 2024 年從 OpenAI 辭職的 Jan Leike,告訴《金融時報》,該公司為了創造「閃亮的產品」而忽略了安全。
準備團隊的負責人 Dylan Scandinaro,他於二月從 Anthropic 被挖角而來,現在將專注於「遞歸自我改進」AI 的影響。