參議員 Adam Schiff 不想在自主武器問題上依賴五角大廈或 AI 執行長的說法。
Anthropic 與五角大廈的爭議正擴展到國會。參議員 Adam Schiff (D-CA) 正在制定一項新法案，以「法典化」Anthropic 的紅線，確保人類在生死問題上做出最終決定；參議員 Elissa Slotkin (D-MI) 最近也提出了一項法案，限制國防部利用 AI 對美國人進行大規模監控的能力。
川普政府本月稍早將 Anthropic 列入黑名單，原因是該公司對軍方如何使用其 AI 模型設定了限制，並將其指定為供應鏈風險。Anthropic 已提起訴訟，指控政府侵犯其憲法權利。該公司堅持要求五角大廈避免使用其產品進行全自主武器和大規模國內監控，並抵制了主要競爭對手 OpenAI 簽署的協議。Anthropic 正在等待法院裁決是否會阻止政府將其標記為供應鏈風險的決定。
「我對五角大廈針對 Anthropic 的做法感到震驚，因為 Anthropic 只是試圖堅持大多數美國人民都同意的政策，」Schiff 上週在接受 The Verge 電話採訪時表示。「他們試圖反過來扼殺公司，扼殺 AI 的主要領導者之一，這種行為極其敵對和專制。這將損害美國在 AI 領域的領導地位，而 Anthropic 是其中最優秀的之一。」
Schiff 的辦公室仍在起草立法，但他表示，目標是確保 AI 不被用於「某些非法目的」。Slotkin 上週也提出了類似的《AI 護欄法案》(AI Guardrails Act)，以加強對國內大規模監控和未經人類干預的自主致命武器使用的保護。目前尚不清楚 Schiff 的法案在關鍵點上將如何差異化或協調，儘管它涵蓋了類似的領域。Schiff 的發言人 Ruby Robles Perez 表示，他的辦公室在最終確定法案之前，將繼續與利益相關者和行業領導者進行溝通。Slotkin 的法案限制了國防部利用 AI 引爆核武器或追蹤美國境內人員或群體的權力，但也概述了在「特殊情況」下，國防部長如何通知國會，以授權使用 AI 部署自主致命武器。
在 Schiff 起草的法案中，關於什麼構成自主武器或國內監控的具體細節仍在討論中，但他表示他們也正在參考拜登政府現有的框架。「我們還沒有解決所有這些問題，包括這些語言將如何適用於非公民，但合法居住在國內的人們應享有保護。而且，從人權的角度來看，這可能還會超出這個範圍，」Schiff 說。
「我們不想將生殺予奪的責任委託給演算法」
這項努力的一個指導原則是「人機環節」(human in the loop) 的概念。「每當一項技術有能力奪走人類生命時，指揮鏈中就必須有人類操作員。我們不想將生殺予奪的責任委託給演算法，」Schiff 說。
但這並不意味著 AI 在戰場上沒有作用。「當然存在某些情況，因為 AI 的運行速度比人類快，所以你希望 AI 能夠為人類操作員提供提示和情報，以便他們採取措施保衛國家，或者根據實時戰場情況進行調整，」Schiff 說。「因此，其應用非常重要。從國家安全和國防的角度來看，它們可能非常有益。但它們也可能意味著生死。它們可能意味著區分平民目標和軍事目標，或者在這方面出錯。」
由於民主黨在參眾兩院都處於少數地位，該法案的短期成功可能取決於共和黨是否願意被視為批評政府。隨著中期選舉臨近，在年底前通過新立法將變得更加困難，儘管如果民主黨重新贏得一個或兩個議院，國會的力量平衡可能會發生變化。該提案可能還需要一到兩週的時間才能公布，但 Schiff 正在考慮利用《國防授權法》(NDAA) 等立法工具來推進它。
「公眾對這類限制肯定有跨黨派的支持，」Schiff 說。「一如既往，當你採取措施防止任何形式的行政濫用時，你就會面臨這個問題，這會讓一些同事質疑這是否可以被解讀為對政府的含蓄批評。所以我們必須處理這個問題，但我希望我們能讓它成為跨黨派的。」
自從 Anthropic 與五角大廈發生爭執以來，OpenAI 一直在努力辯護其簽署引發公眾反彈的條款的原因。儘管 OpenAI 表示將堅持相同的條款，但 Schiff 表示，他寧願不必將這種信任寄託在五角大廈或任何執行長身上。「坦白說，如果這些是法定要求，而不是依賴五角大廈的合法性或 AI 執行長的承諾，我會更有信心，」他說。