David Robinson 曾負責 OpenAI 每次重大模型發布時的安全報告。本週，他從職位上辭職，並在《大西洋月刊》發表了一篇評論，公開表達了他的擔憂。
如果你對那些突然冒出來警告他們曾參與建造之事物有多危險的人感到有些憤世嫉俗，這是可以理解的。畢竟，是他們造成了這個局面。但這並不意味著我們應該忽視他們的警告。
Robinson 表示，產業內的文化已經從根本上破敗。這是一個比簡單地為如何處理模型訓練增加一些新規則或規定更深層次的問題。他說，矽谷一直以來都以「極端自信」和「永無止境的衝刺」來運作，以「不受阻礙的樂觀」建造更大、更好的模型，卻忽略或低估了潛在的問題。
他認為，現在是時候讓 AI 公司發展出一種謙遜感，並擺脫科技業內部「快速行動、打破常規」的世界。具體來說，他認為 AI 需要達到核武等級的安全防護措施：
鑑於當前的風險，前沿實驗室需要像核電廠或繁忙機場一樣運作，擁有層層冗餘和審慎、耗時的規劃，這樣偶爾且不可避免的人為錯誤才不會為災難敞開大門。
Robinson 只是眾多離開知名 AI 公司並發聲的研究員和安全工作者中的最新一位。Jacob Coxon 在離開 Anthropic 後公開表示 AI「可能在本十年結束前殺死我們所有人」，似乎引發了這波離職潮。隨後，Google DeepMind 的 Robert O’Callahan、Bilal Chughtai 和 Josh Engels，以及 Anthropic 的 Joe Benton 也紛紛離職。
