來自業界內部、正在開發 AI 技術的人士所發布的一系列影片,呼應了近期其他人所發出的「末日論」警告。

「我認為人類滅絕的機率大約是拋硬幣的機率,」前 OpenAI 和 Google DeepMind 的員工 Geoffrey Irving 在一次新訪談中說道。這是對十幾位 AI 研究人員的訪談之一,其中包括來自 OpenAI、Google 和 Anthropic 的現任及前任員工。Palisade Research 表示,該組織是一個研究 AI 能力和動機的非營利組織,他們收集並在 frominside.ai 上發布了這些訪談。

幾位研究人員與 Irving 一同警告 AI 可能導致人類滅絕的可能性。Google DeepMind 的研究科學家 Neel Nanda 表示,AI「至少有 10% 的機率會導致人類滅絕,這個機率高得離譜。」我們在最近一份關於「AI 安全」社群的報告中,曾提及 Nanda 和 Irving 的評論,以及該術語的確切含義,或人們應如何應對的難度,而這些影片也未能提供一個統一的解決方案。

前 OpenAI 研究員 Daniel Kokotajlo 更進一步聲稱,超級智慧 AI「基本上將擁有神一般的力量」,並補充說:「不幸的是,我們完全不知道如何控制它們。因此,很可能沒有人會控制它們。這聽起來有多危險,就有多危險,絕對不能讓它發生。」

雖然每段影片都可以完整觀看,但該網站也收集了多位人士針對相似主題的片段,包括這一切是否僅是炒作或行銷,以及他們為何要從事他們認為如此危險的工作。其中一些回應包括 Google 的 Mary Phuong 表示「我認為你絕對應該對我說的話持懷疑態度,因為我的薪水來自這個實驗室」,以及 Nanda 的解釋「如果我不相信我的工作能直接降低這些生存風險,我早就辭職了……這些公司不會因為我辭職就停止製造這些系統。」

AI 研究人員發布影片,警告超級智慧的危險性「聽起來有多危險,就有多危險」AI 研究人員發布影片,警告超級智慧的危險性「聽起來有多危險,就有多危險」AI 研究人員發布影片,警告超級智慧的危險性「聽起來有多危險,就有多危險」AI 研究人員發布影片,警告超級智慧的危險性「聽起來有多危險,就有多危險」AI 研究人員發布影片,警告超級智慧的危險性「聽起來有多危險,就有多危險」AI 研究人員發布影片,警告超級智慧的危險性「聽起來有多危險,就有多危險」