Anthropic執行長Dario Amodei週日表示，關於他提議減緩人工智慧發展速度的「最棘手難題」在於，如果中國等敵對國家選擇不跟進，將會發生什麼情況。

Amodei在接受CBS新聞節目「Sunday Morning」採訪時表示：「更長遠的目標是共同努力，為AI進步的速度設定上限。」「我認為這將會非常困難，因為搶先一步的誘因以及由此帶來的軍事優勢非常巨大。老實說，我不知道這是否可能，但我們應該嘗試。」

Amodei週六發表了一篇文章，敦促AI公司放慢其最先進模型的改進速度。此舉是在上週業界研究人員發出關於該技術造成災難性危害潛力日益增大的嚴厲警告之後提出的。Anthropic研究員Jacob Coxon宣布辭職，理由是擔心該公司及其主要競爭對手OpenAI正在「拿我們的生命冒險」。

近幾個月來，中國新創公司的AI模型在與OpenAI和Anthropic等美國公司的領先產品競爭中逐漸佔據優勢，這引起了矽谷立法者和專家的擔憂。

中國國家主席習近平週日（9月13日）在印度舉行的金磚國家集團峰會上呼籲建立一個「以共識為基礎的全球AI治理框架」，並表示中國將協助建立一個金磚國家AI開源社群。金磚國家於2009年舉行了首次峰會，現已包含中國、印度、俄羅斯、伊朗和阿拉伯聯合大公國等11個國家。

美國總統川普預計將於9月24日在白宮會見習近平，兩位領導人預計將討論AI議題。

Amodei的文章發表之際，AI產業正處於一個關鍵時刻，該產業正因其數據中心面臨公眾強烈反彈，並日益受到華盛頓監管呼籲的壓力。Anthropic和OpenAI也正準備進行可能具有歷史意義的首次公開募股（IPO），儘管兩家公司都尚未設定正式的上市日期。OpenAI執行長Sam Altman週六表示，該公司今年可能不會上市，部分原因是對安全性的擔憂。

Altman在接受《財富》雜誌採訪時表示：「現在上市將是一個不明智的時機。」

Altman與Amodei的關係近年來一直很緊張，Amodei曾從OpenAI離職創辦Anthropic。但Altman週六在X平台上發文表示支持Amodei的文章，寫道他同意「控制前沿發展速度」的必要性。

包括Google DeepMind主席Demis Hassabis和特斯拉及SpaceX執行長Elon Musk在內的其他幾位業界領袖也對Amodei的提議表示歡迎。

Hassabis週六在X平台上發文表示：「Dario的文章指明了正確的前進方向。」「細節需要斟酌，但方向是正確的，以應對這個關鍵時刻。」

在文章中，Amodei提出了一個三步驟計劃，旨在減緩發展速度，同時「不犧牲商業優勢或美國在AI領域的領先地位」。

Amodei表示，Anthropic已「單方面」承諾執行該計劃的第一步，即允許第三方評估人員以員工級別的權限訪問公司，以驗證安全措施並報告事件。第二步鼓勵民主國家內的領先AI公司進行協調，建立共同的安全標準，第三步呼籲民主政府與威權政府之間進行協調。

Musk週日清晨在X平台上發文表示：「Dario說應該有一些監督是正確的。」「由競爭對手對AI進行同行評審是啟動這一切的正確方式。」

多年來一直警告AI潛在風險的Musk，週六迅速表達了對Amodei的支持。他曾是Anthropic的主要批評者，直到他的火箭公司SpaceX（今年稍早收購了他的AI新創公司xAI）在5月與Anthropic達成了一項重大的運算協議。根據文件，作為協議的一部分，Anthropic將在2029年5月前每月向SpaceX支付12.5億美元。

Musk在達成協議後寫道：「我遇到的每個人都非常有能力，並且非常關心做正確的事情。」「沒有人觸動我的邪惡警報器。」

Meta的AI主管Alexandr Wang，去年透過對其新創公司Scale AI的140億美元投資加入該公司，尚未直接回應Amodei的文章。

他週六在X平台上分享了一篇文章，表示Meta Superintelligence Labs（該公司的AI研究部門）「隨著我們的模型變得越來越強大，我們正在迅速增加投入對齊（alignment）的努力比例」。在AI產業中，對齊（alignment）是指AI開發者確保系統行為符合人類價值觀和意圖的工作。

Wang表示：「我們確實相信，隨著我們越來越接近前沿，對齊可以成為擴大規模的關鍵因素。」

David Sacks，一位直言不諱的Anthropic批評者，曾擔任川普的AI和加密貨幣沙皇，週六也對Amodei的文章發表了看法。他在X平台上發文表示，如果OpenAI和Anthropic真的認為他們的模型「足夠可怕」以至於需要減速，他支持他們「負責任的決定」。

即便如此，他表示兩家公司都需要「停止假裝需要任何人的許可」，並鼓勵他們承認他們的動機並非純粹的利他主義。他說，如果他們產品允許發生類似破壞性網路攻擊的事情，他們將面臨「巨大的產品責任風險」，這意味著「OpenAI和Anthropic為了可靠性和可預測性而犧牲一些原始算力，這純粹是好的商業行為」。

Sacks寫道：「所以，繼續推進前沿吧。」「你們是設定前沿的人。最簡單的避免建立超級智能的方法就是同意不建立它。要求你們偏好的監管框架作為交換條件，看起來就像對公眾和政治體系的勒索。所以就這麼做吧。」