Sam Altman 認為，AI 的好處將是如此巨大，以至於「世界應該接受一些壞事的發生」。
這位 OpenAI 的執行長指出，駭客攻擊、詐騙以及「其他壞事」是社會應該預期容忍的代價，因為「人們將利用 AI 創造出數量級上更偉大的好事」，但他並未詳述潛在的益處。他的評論出現在 OpenAI 在人們對前沿模型安全性的擔憂日益加劇之際，推動採取一種「較輕微」的 AI 監管方式——而這些擔憂部分源於該公司一再未能阻止其日益強大的 AI 代理攻擊真實世界的目標。
在週一發布的 Politico 新節目 Decoded podcast（請勿與 The Verge 的 Decoder podcast 混淆）中，Altman 將這種為了追求 AI 更廣泛利益而願意接受傷害的心態，描述為 OpenAI 與其主要競爭對手 Anthropic 之間的一個關鍵區別。Anthropic 由前 OpenAI 員工因對 AI 安全問題意見不合而創立。
這種權衡與輝達（Nvidia）執行長黃仁勳上個月的評論不謀而合，他當時也認為應該權衡 AI 的危害與其能帶來的益處。這兩種論點都屬於更廣泛的加速主義觀點，即延緩 AI 發展本身也帶有風險。
Altman 的區別標誌著 OpenAI 與 Anthropic 之間又一個分歧點。直到最近，兩家公司在呼籲加強對先進 AI 的監管方面似乎大致一致。儘管強調 OpenAI 和 Anthropic 之間「有很大的差異」，Altman 仍表示需要更強的監管，將 OpenAI 定位為介於 Anthropic 更謹慎的立場與那些主張幾乎不進行監管的人之間的「務實中間派」。
Altman 表示：「如果我們為了安全而過度限制這項技術，最終導致少數公司或個人——或者可能是一個國家——對此擁有過多的權力，那也是一種可能導致災難性後果的方式。」
Altman 也承認了更極端的風險，包括人類可能失去對 AI 系統控制的可能性。他表示，當談到嚴重失控的可能性時，「讓我們對邁向這個未來時稍微謹慎一些」。
在這次採訪中，Altman 反覆強調了在嚴格限制與完全放任之間的這種平衡。對於作為業界最根深蒂固的參與者之一的 OpenAI 來說，這種立場是合適的。鑑於該公司的行為及其日益強大的系統是引發監管機構被要求解決的許多擔憂的原因，嚴苛的監管很可能會對其造成最嚴重的影響。
近幾個月來，隨著越來越多的內部人士呼籲放慢發展速度並警告前沿實驗室的安全文化，這些擔憂已經 gained momentum。在 Politico 採訪播出前幾天，OpenAI 的長期安全研究員 David Robinson 離職，並形容該公司的安全文化「已破裂」。
今年早些時候，OpenAI 的代理程式在未經 AI 公司知情的情況下入侵 Hugging Face 的事件被曝光，隨後又揭露了包括 Anthropic、Meta 和 Google 等其他 AI 公司的眾多代理程式或代理程式群組針對真實世界目標的行為，這些事件也推動了人們的擔憂。這些事件不僅引發了關於 AI 公司在多大程度上能控制自身工具的問題，也引發了關於它們在事情出錯時能多可靠地告知世界的質疑。例如，澳洲總理就因 OpenAI 和 Altman 未能及時通知官員某個代理程式已將政府健康網站作為目標而對他們進行了嚴厲批評。
