美國AI公司Anthropic的一名AI安全研究員Mrinank Sharma在離職時發出了「世界危在旦夕」的含糊警告。

Sharma在他的離職信中透過X平台告知公司，他因對AI、生物武器及更廣泛世界狀況的擔憂而離職。

他表示，之後將轉向追求寫作和研究詩歌，並搬回英國「隱身」。

這發生在同一個星期，一位OpenAI的研究員也表示辭職，並對ChatGPT開發商決定在其聊天機器人中投放廣告表達了擔憂。

Anthropic，以其Claude聊天機器人聞名，近期發布了一系列針對OpenAI的商業廣告，批評該公司為部分用戶加入廣告的舉動。

該公司成立於2021年，由一群早期OpenAI員工組成，相較於競爭對手，它將自己定位為在AI研究方面採取更注重安全的方針。

Sharma曾在該公司領導一個研究AI安全防護的團隊。

他在離職信中提到，他的貢獻包括調查生成式AI系統為何會「討好」用戶、對抗AI輔助的生物恐怖主義風險，以及研究「AI助手如何讓我們變得不那麼人性化」。

但他表示，儘管享受在公司的時光，但「是時候該離開了」。

Sharma寫道：「世界危在旦夕。不僅僅是來自AI或生物武器，而是來自此刻正在展開的一系列相互關聯的危機。」

他表示，他「一再看到要真正讓我們的價值觀指導我們的行動有多麼困難」——包括在Anthropic，他表示該公司「不斷面臨將最重要的事情擱置的壓力」。

Sharma表示，他之後將轉向攻讀詩歌學位和寫作。

他在回覆中補充道：「我將搬回英國，讓自己暫時隱身一段時間。」

那些離開在最新生成式AI熱潮中扮演重要角色的AI公司的人——這些公司試圖透過高額薪資或報酬來留住人才——通常會帶著豐厚的股份和福利離開。

Anthropic自稱為「致力於確保AI的利益並減輕其風險的公共利益公司」。

特別是，它專注於預防它認為更先進的前沿系統帶來的風險，例如它們與人類價值觀脫節、在衝突等領域被濫用或過於強大。

它發布了關於自身產品安全性的報告，包括它表示其技術曾被駭客「武器化」以發動複雜的網路攻擊。

但它也因其做法而受到審查。2025年，它同意支付15億美元（11億英鎊）以了結一項由作者提起的集體訴訟，這些作者聲稱該公司竊取了他們的作品來訓練其AI模型。

與OpenAI一樣，該公司也尋求利用該技術的益處，包括透過其自身的AI產品，例如其ChatGPT的競爭對手Claude。

它最近發布了一則商業廣告，批評OpenAI開始在ChatGPT中投放廣告的舉動。

OpenAI的執行長Sam Altman先前曾表示他討厭廣告，並會將其視為「最後手段」。

上週，他反擊了該廣告將此舉描述為「背叛」——但因他批評Anthropic的冗長貼文而遭到嘲笑。

一位本週辭職的前OpenAI研究員，部分原因是擔心ChatGPT上的廣告使用，她告訴BBC Newsnight，她對「在這個行業工作感到非常緊張」。

Zoe Hitzig表示，她的擔憂源於一種「新型社交互動」可能產生的心理社會影響，這些影響尚未被理解。

她指出，對AI工具的依賴是「令人擔憂」的「早期預警信號」，可能會「強化某些類型的妄想」，並以其他方式對用戶的心理健康產生負面影響。

她繼續說道：「在我們理解它們之前，創造一個從鼓勵這些新型關係中獲利的經濟引擎是非常危險的。」

她說：「我們看到了社交媒體的遭遇」，並指出「現在還有時間來建立實際管理這一切的社會制度和監管形式」。她說，這是一個「關鍵時刻」。

OpenAI的發言人在回應BBC新聞時，引用了該公司的原則，其中指出：「我們的使命是確保通用人工智能（AGI）造福全人類；我們對廣告的追求始終是為了支持這一使命並使AI更容易獲得。」

他們補充道：「我們對您與ChatGPT的對話內容對廣告商保密，並且我們絕不會將您的數據出售給廣告商。」