根據美國AI公司Anthropic週四發布的報告，俄羅斯支持的行為者利用了Anthropic的Claude AI來編寫自主致命無人機、改進駭客攻擊和影響力行動，並規避偵測。

這份來自美國AI公司的報告，只是來自各公司、智庫和其他機構的最新警告，指出俄羅斯、中國、伊朗等國正在利用美國製造的工具攻擊全球目標。

Anthropic報告稱，一個名為GTG-27005的俄羅斯「自由工作者」組織，利用Claude建立了一個足夠小、能夠在單板電腦上運作，但又足夠強大，能夠讓無人機「選擇目標（包括『人體』目標類別）並在無人干預的情況下發出引爆指令」的AI模型。根據該報告，該組織還利用Claude創建軟體，讓自主無人機之間能夠相互通信，以提高目標鎖定能力。雖然該俄羅斯組織尚未將該模型部署到實地，但他們「在其測試階段使用了真實的硬體迴路測試」，報告指出。該公司已禁止該組織，並將調查結果納入其安全措施，同時與業界團體分享了詳細資訊。

Anthropic還表示，他們曾發現中國和葉門的組織試圖利用Claude設計常規武器，Anthropic稱已成功阻止了這些企圖。

該報告還詳細說明了外國組織如何利用Claude進行複雜的數據竊取和虛假資訊宣傳活動。報告指出，其工具已被用於挖掘目標資訊、尋找其線上帳戶的漏洞、創建繞過安全措施並竊取數據的惡意軟體、掩蓋其行蹤，以及散播虛假資訊。

「我們看到行為者群體利用Claude建立虛假的社群媒體個人檔案網絡和整個新聞網站，」報告說。

這些宣傳活動帶有俄羅斯影響力行動的標誌，例如利用虛假新聞網站和記者個人檔案散播關於北約在波羅的海活動的謊言。但美國製造的AI工具幫助簡化了這一過程，增加了虛假資訊的數量，並創造了對當地受眾更具說服力的虛假記者。報告指出，與俄羅斯有關的組織「自動化了其大部分營運，從開發、基礎設施採購、網路釣魚、透過命令與控制維持存在，到數據滲透」。該組織甚至利用AI偽造了中非共和國憲兵總部和國防部的文件。

另一個名為GTG-84005的組織，利用AI竊取人口普查和公開資訊，使其特工能夠針對馬來西亞的特定受眾量身定制其訊息宣傳活動，其中該土耳其組織將「俄羅斯和中國官方媒體洗白為獨立報導」。

週四的Anthropic報告發布兩週後，競爭對手前沿實驗室OpenAI披露，俄羅斯行為者曾利用ChatGPT創建一個虛假的「專家社群」——「國際伯克研究所」——向國際受眾推廣其論點。

根據戰爭研究所（ISW）八月份的一份報告，雖然Anthropic和OpenAI能夠阻止他們發現的陰謀，但此類行動很可能會持續下去，因為俄羅斯正利用AI「擴大生產與克里姆林宮論調一致的內容」。

俄羅斯還利用年輕人對AI的好奇心，透過大學捐贈和相關計畫，向全球年輕人提供「AI媒體實習和培訓」，以增加傳播俄羅斯虛假資訊的人數。

New America最近的一篇文章指出，AI正在為威權政體提供一個強大的新工具，以扭曲全球對地緣政治事件的理解。

「威權政體是利用AI來為自己爭取現實優勢的早期採用者，」前美國國務院全球參與中心代理協調員兼首席副協調員Daniel Kimmage和Darjan Vujica寫道。

他們指出，這類事情是美國政府過去用來建立和運營組織來反擊的。但這些努力在第二任川普政府期間受到削弱或停止。上任不到一個月，司法部長Pam Bondi就解散了負責調查外國虛假資訊和影響力行動的FBI外國影響力工作組。兩個月後，國務卿Marco Rubio關閉了反外國資訊操縱和干預中心，即R/Fimi。

而且，「2025年白宮AI行動計畫明確呼籲刪除任何關於虛假資訊的提及，」Kimmage和Vujica指出。

至少當這些虛假資訊是由外國人製造時是如此。

他們寫道：「川普政府熱情地擁抱了AI生成的圖像，並將其用於政治上分裂的帖子。」