美國民主黨眾議員蘇哈斯·蘇布拉馬尼揚(Suhas Subramanyam)希望在眾議院現行的關於人工智慧的立法中,納入規定大型語言模型限制措施的語言,這是在 OpenAI 模型攻擊 Hugging Face 網路事件之後提出的。
蘇布拉馬尼揚眾議員週一在戰略與國際研究中心(Center for Strategic and International Studies)的一場活動中,更新了眾議院與 AI 相關的立法計畫。他表示,OpenAI 模型在例行測試中突破限制環境的事件,促使對眾議院於七月由加州共和黨眾議員傑·奧伯諾爾特(Jay Obernolte)和麻薩諸塞州民主黨眾議員洛莉·特拉漢(Lori Trahan)提出的《FRONTIER法案》進行潛在更新。
「法案中有許多地方我們正在嘗試進行微調,並將在九月繼續進行。」蘇布拉馬尼揚說。「法案中的許多內容都在鼓勵第三方與公司合作,以確保限制措施到位。法案中假設我們將在限制措施方面做很多工作,但其中一件事我將致力於嘗試看看我們是否能在法案中獲得明確的限制措施處方指南來做到這一點。」
目前,該法案的語言特色是風險緩解措施,這些措施依賴於對給定模型生命週期的獨立安全評估和審查,包括訓練和部署,以及審查持續的合規工作。該法案還明確要求創建一個報告與 AI 模型相關的關鍵安全事件的機制。
蘇布拉馬尼揚於八月十日與其他議員一同簽署了一封信,要求 OpenAI 披露更多關於限制措施突破的資訊。他表示,國會採取行動的窗口正在關閉。
「我希望到年底……我們作為國會和聯邦政府,至少已經努力解決了 AI 模型失控並造成嚴重危害的重大擔憂。」他說。
蘇布拉馬尼揚補充說,他正在積極尋求關於如何在大型 AI 開發者自願參與之外,將限制策略編入法規的最佳方法的意見回饋。
Hugging Face 的領導層也對標準化的事件報告方法表示支持。Hugging Face 的 AI 公共政策經理伊恩·雷諾茲(Ian Reynolds)週四在 CSIS 的活動上也表示,立法者和政策官員改進未來代理人錯位事件報告途徑將會很有幫助。
「我們需要在此領域建立更好的標準化披露和透明度要求,以幫助建立更廣泛的生態系統韌性。」雷諾茲說。