隨著前總統川普準備在華盛頓與科技及人工智慧（AI）企業執行長會面，眾議員Ro Khanna（加州民主黨）呼籲美國與中國簽訂條約，以防止AI對世界造成破壞。然而，要促使兩國領導人採取行動，可能仍是遙遙無期的挑戰。
Khanna是眾議院中國特別委員會的最高民主黨成員，也是可能的總統候選人，他在致美國國家情報總監Jay Clayton的信中，向美國情報機構及中國AI公司詢問是否準備好應對類似今年夏天OpenAI代理人駭入Hugging Face的事件。被詢問的中國公司包括DeepSeek、阿里巴巴和Moonshot AI，這些公司都在追求高階人工智慧技術。
Khanna在信中寫道，美中兩國在許多議題上的利益「截然不同」，但在這個特定問題上，「人類失去掌控自己命運，對任何一方都沒有好處」。
他要求國家情報總監辦公室（ODNI）評估美國在AI實驗室失控的情況下，可能的應對能力，這種情況近月來越來越常見。同時，他也要求評估中國政府對於災難性AI風險的評估方式。他表示，這些資訊將有助於國會及白宮與中國對口部門制定協議。
致DeepSeek、阿里巴巴及Moonshot AI的信中，Khanna要求提供他們在實現「超級智能」及遞歸自我改進（RSI）方面的努力文件，RSI指的是AI系統能自我提升的里程碑。他詢問是否有實施安全防護措施及「緊急停止開關」，並詢問若簽訂條約，是否願意接受非政府機構的檢查。這些公司及ODNI尚未回應《The Verge》的置評請求。
Khanna此舉是在中國國家主席習近平與美國總統川普上週於白宮會晤後發生的。他表示，兩人都未能認識到AI風險與緊迫性。「我認為川普與習近平至少同意討論AI並持續對話，這是建設性的，但遠遠不夠。」Khanna週一在接受《The Verge》訪問時說。
他對白宮、眾議院議長Mike Johnson（路易斯安那州共和黨）及多位美國科技高管預定於週二的會議持懷疑態度。「我認為這是為了安撫美國民眾，讓他們相信這些科技公司會負責任，這是一種品牌行銷。」Khanna說。「但我們為何要相信這些以最大化利潤為動機的公司來制定安全規則？他們不是壞人，但你會相信藥廠高管來決定藥品安全規則嗎？」
Khanna最終希望美中能簽訂禁止RSI並監控前沿AI實驗室的條約，但他也承認短期內難以實現。參議員Bernie Sanders（佛蒙特州獨立派）也呼籲兩國簽訂AI條約，但共和黨如眾議院中國委員會主席John Moolenaar（密西根州共和黨）則對中國政府是否會遵守協議持懷疑態度。Khanna表示，他希望成立一個由兩國專家組成的工作小組，提出安全建議及確保合規的方法。
不過，川普及其盟友對大多數監管或協議持抵制態度。川普在上週與習近平會面當天早上，在Truth Social發文表示：「超級智能（SI）將是討論重點，但我希望保持現狀。這也是中國的立場。」Johnson在Fox Business表示，他預期會談將圍繞在如何取得「適當平衡」的監管而不扼殺創新，並警告不要在AI競賽中輸給中國。然而，美國主要AI公司則呼籲美國與中國協調，放慢開發速度。
在致中國AI公司的信中，Khanna承認他們不太可能全面回應。他表示，這些公司未回應早前要求與OpenAI及Anthropic一起承諾放慢AI開發的信件。Khanna告訴《The Verge》，他的目標是「讓他們感到羞愧」並「激發中國AI公司對安全的辯論」。他雖然也批評美國AI公司，但表示「至少他們參與安全對話」。
Khanna仍然相信美國將引領AI安全標準，部分原因是他認為許多中國模型是從美國模型提煉而來。儘管世界領導人可能未意識到威脅，但他們「與本國的科學家和技術專家脫節」，他說。「我們需要讓真正了解這些技術的技術專家和工程師主導辯論，而不是有利潤利益的執行長，也不是缺乏技術專業且更關心權力的政治人物。」
