Yardeni Research 指出,對人工智慧的擔憂已從理論上的滅絕情境,轉向越來越強大的模型已被用於武器開發和網路攻擊的證據。

此辯論因 Anthropic 報告稱葉門北部一個武器組織利用 Claude 協助開發三個武器計畫的導航、導引和控制軟體(包括多級彈道飛彈和高超音速滑翔載具)而加劇。

Anthropic 並未發現有已部署的武器。另一獨立的、疑似與伊朗有關的行為者則利用 Claude 分析公開的船隻和衛星數據,並生成針對美國海軍的目標情報。這些帳號已被封鎖並通報給當局。

這些發現促使 AI 執行長呼籲放慢最先進模型的開發速度。Anthropic 執行長 Dario Amodei 提議讓外部評估者能夠存取 AI 實驗室並制定共同的安全標準。OpenAI 執行長 Sam Altman 也支持放慢更強大模型的開發速度,並加強獨立監督。

困難之處在於,對封閉模型的限制可能不適用於開放權重系統。這類模型可以被下載、私下運行並修改以移除安全控制。

根據報告中引用的 OpenRouter 數據,包括中國開發商 DeepSeek、智譜和 MiniMax 在內的領先開放權重模型,在能力開發上僅落後美國領先的封閉模型三到六個月。

這造成了競爭問題。放慢美國封閉開發者的進度,而其他地方沒有類似限制,可能會將開發轉向更難以控制的系統。

對投資者而言,眼前的問題是安全辯論是否開始影響模型的發布、資本支出或預期回報。

週一,那斯達克 100 指數盤中一度下跌 1.5%,收盤下跌 0.5%。報告將此舉描述為對新聞標題的反應,而非財報重估。

更具影響力的信號將包括:最先進模型的發布延遲、超大規模雲端運算廠商的資本支出減少、投資回報率指引疲軟,或監管機構獲得對模型的直接存取權。