防止人工智慧引發世界大戰

當美國總統川普和中國國家主席習近平最近在華盛頓會晤時，人工智慧（AI）治理原本預期將是議程上的重點。美國和中國一直在競賽開發日益強大的人工智慧系統，兩國都沒有表現出放慢腳步的意願。然而，即使是AI競賽的贏家，也無法倖免於這項技術帶來的深遠風險。

其中一種風險源於AI日益增強的能力，能夠偵測軟體漏洞並執行複雜的網路操作。由於網路衝突的特點是攻防之間存在明顯的不對稱性，擁有世界上最先進AI模型的國家仍將面臨網路攻擊的風險。這種相互脆弱性促使在針對關鍵基礎設施（如金融網絡、通訊系統和電網）的AI驅動攻擊方面，產生了相互克制的強烈動機。

這種克制並非沒有先例。2015年，美國總統歐巴馬與習近平達成協議，雙方政府均不會為了商業利益而進行或知情支持網路竊取智慧財產的行為。他們還建立了資訊交換、協助調查和處理惡意網路活動的機制。此後，網路安全公司記錄到來自中國團體的攻擊顯著下降，儘管分析人士指出，這種下降始於協議之前，可能反映了中國軍方和網路體系內部的變化。