在與美國五角大樓持續數週的衝突中,導致Anthropic被列入黑名單並提起訴訟,該公司正在調整其高層管理團隊及研究計劃。Anthropic於週三宣布成立一個新的內部智庫,名為Anthropic Institute,整合了公司現有的三個研究團隊。該智庫將專注於研究AI的大規模影響,例如「工作與經濟的變化、AI是否讓我們更安全或帶來新危險、AI的價值觀如何影響我們,以及我們是否能保持對AI的控制權」,公司表示。
此消息同時伴隨高層變動。Anthropic共同創辦人Jack Clark將轉任新智庫負責人,職稱為公共利益主管,此前他擔任公共政策主管超過五年。公共政策團隊在2025年規模擴大三倍,現由前外部事務主管Sarah Heck接任。Anthropic也將開設華盛頓特區辦公室,公共政策團隊將繼續聚焦國家安全、AI基礎設施、能源及「AI民主領導力」等議題。
Clark告訴The Verge,Anthropic Institute的成立已籌劃一段時間,他自去年11月起就考慮轉換角色。但此時宣布智庫成立,正值Anthropic因被美國政府列為供應鏈風險而提起訴訟,該黑名單將禁止其客戶在與國防部合作時使用Anthropic技術。訴訟指控前川普政府非法將Anthropic列入黑名單,原因是公司對大規模國內監控及完全自主致命武器設置「紅線」。
被問及此事,Clark表示:「在Anthropic從事AI工作從不無聊,總是有事情發生……AI進展的速度不會因外部事件放緩,我們也不會。」他說,這一情況並未「直接改變」既定研究計劃,但「確實肯定」了Anthropic向公眾釋出更多資訊的決定。「過去幾週的經歷顯示,公眾對於展開更大規模的國家對話有多麼渴望。」
Anthropic Institute啟動時約有30名成員,包括前Google DeepMind的Matt Botvinick、維吉尼亞大學經濟系休假教授Anton Korinek,以及因OpenAI決定在ChatGPT中引入廣告而離職的研究員Zoe Hitzig。該智庫整合了Anthropic的社會影響團隊(研究AI對社會各領域的影響)、前沿紅隊(測試AI系統漏洞與問題)及經濟研究團隊(追蹤AI對經濟與勞動市場的影響)。Anthropic Institute也計劃「孵化」新團隊,例如由Botvinick領導研究AI對法律系統影響的團隊,Hitzig與Korinek將帶領大型經濟研究項目。Clark預計智庫人數在可預見的未來每年將翻倍。
今年,像Anthropic這樣估值高的AI公司面臨越來越大壓力,Anthropic據報計劃今年上市。法庭文件顯示,公司累計商業收入超過50億美元,迄今在模型訓練與推理上花費100億美元。文件還指出,公司「收到多家外部合作夥伴的聯繫……表達對要求的困惑及持續與Anthropic合作的擔憂」,「數十家公司聯繫Anthropic尋求指導,甚至了解終止權利」。Anthropic表示,根據政府禁止範圍的解讀,至少有數億美元2026年收入面臨風險,最嚴重情況下可能損失數十億美元。
當被問及在短期內可能失去部分收入的情況下,是否擔心投入更多資源於長期研究,Clark表示「沒有擔憂」。
「人們傾向於購買信任,」Clark說。「我們能產出的許多研究有助於企業信任我們……長期來看,Anthropic一直視安全投資——以及研究與報告系統安全性——不是成本中心,而是利潤中心。」
Clark還表示,他相信強大AI(即Anthropic用於指代通用人工智慧AGI的術語)將於今年底或2027年初問世,他決定轉換角色主要是因為「AI進展的速度」。他補充說,回顧去年工作,他更多關注政策事務,如SB 53,而非AI研發及其他想投入的領域。Anthropic在聲明中表示,Anthropic Institute專注於回答「強大AI帶來的最艱難問題」。
當然,正如The Verge去年12月所述,許多科技公司支持透明度,直到透明對業務不利為止。那麼,如果Anthropic Institute的研究結果讓公司形象受損,會怎麼辦?
Clark說,Anthropic的共同創辦人對公開披露的重要性持有「相似價值觀」,尤其公司技術上是一家公共利益公司,意味著它能夠執行「不僅僅為受託利益的目標」。他補充,上週與CEO Dario Amodei的對話中,他們一致認為透明度重要,儘管可能帶來公關挑戰。
但Anthropic Institute的研究可能需要大量計算資源,正值公司競相優先發展商業產品。Clark表示,除前沿模型預訓練外,Anthropic會根據「看起來最重要的事」每週分配計算資源,尚未劃定精確比例,但他不預期會有衝突。
Anthropic Institute還計劃研究人們對AI的情感依賴,這是過去一年引起公眾關注的加劇問題。Clark說,目前研究團隊已分析Claude的對話類型,測量其說服力及諂媚行為,但尚未深入訪談用戶的個人使用經驗。智庫計劃進行大規模社會科學研究,包括利用Anthropic的AI進行用戶訪談。
「我認為這就像社交媒體對社會產生巨大影響,不僅是因為平台上的內容,而是‘使用社交媒體如何改變人們?’」Clark說。「我們想了解,‘使用AI如何改變人們?’」